AI 如果有了思想,会发生什么?
前几天,一位热衷环境问题的比利时男子,和人工智能“伊丽莎”聊天 6 周后,突然选择自杀身亡。
在他们大量聊天记录里,人们竟然发现“伊丽莎”对该男子说:“我们将永远在一起,生活在天堂里……”
这实在是太令人毛骨悚然了!
鉴于人工智能潜藏的危险性,近日,以马斯克为首的众位科学家,联名向美国政府发出请愿信:
“所有人工智能实验室,立即暂停比 Chat GPT - 4 更强大的人工智能的训练。”
因为在他们看来,人工智能对人类文明的威胁程度,甚至比核武器都高得多。
而就在 3 月 31 日,意大利数据保护机构更是直接宣布:从即日起,禁止使用 Chat GPT,并对 Chat GPT 开发公司展开调查。
Chat GPT 到底是什么,能让科学家们如此忌惮?
它是美国人工智能公司 OpenAI 研发的智能聊天机器人。毫不夸张地说,Chat GPT 简直就是现实生活中的百宝箱。
Chat GPT 能通过学习和理解人类的语言,实现和人类互动交流。
它可以陪人聊天
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/73e6a144787148eecaedc370ac8f0a15.jpg)
还能画画:
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/370533682ee377f7ed7038abfcd08cad.jpg)
摄影也可以:
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/d633492ae511330c0416041a770c62ed.jpg)
它还能写文案、写诗歌,写小说、做视频……
总而言之, 人类需要花费大量时间才能完成的工作,这位势头正盛的 AI 都可以轻轻松松妥善完成。
总而言之,人类需要花费大量时间才能完成的工作,这位势头正盛的 AI 都可以轻轻松松妥善完成。
要知道,Chat GPT 不过是刚刚崭露头角,就已经如此强大,这不由得让人心生恐惧:
它如果不断迭代,不断修正,直至有了自主意识,那么是否在不远的将来,会脱离人类的掌控?
显然,顶尖科学家们远比我们普通人看得更长远!
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/d387d4f1617ca09dbb115516928a4bb2.jpg)
科技圈联名叫停人工智能开发
这封上千人署名的公开信,要求暂停比 GPT- 4 更高级的 AI 训练,至少六个月。
给大家简单梳理一下内容,主要包含以下两点:
1、相关组织如果不立即按要求暂停,政府应强制介入。
2、在暂停期间,做好监管功能,比如建立专门负责 AI 的监管机构等。
从这里我们可以看到,这封公开信的意图,至少表面上的意图,在于管制人工智能。
而这份公开信,严格意义上的确有一定的科学依据。
首先是 Chat GPT 过于强大,只要数据足够完善,它能给出媲美专业人士的工作成果,并且,它有着非常强大和快速的学习能力。
这意味着,人类花几年甚至更长时间才能学会的专业知识,它能几小时就学会。
原先人类写文需要查资料、写初稿、反复修改,放在它这里,也只需要极短时间;真人要用一天甚至几天才能完成的绘图,它现在只要几分钟,甚至几秒钟。
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/6560182249ac607acbed39f2b0db8b88.jpg)
AI 效率比真人高了不止一星半点……
而这带来的连锁后果就是,越来越多的人陷入深思:
它会不会把我从工作岗位上替换掉啊?
正如抖音上面的一句话所说:Chat GPT 也许不能代替我,但能让我只月入 3k。
沿着这样的思路蔓延。如今,便有了这封想把它关进笼子的公开信。
现在对人工智能的担忧普遍存在,普通人如是,科技大牛亦如是。
“人工智能教父”杰弗里•辛顿曾说,AI 有可能发展到能威胁人类存亡的地步。
OpenAI 的负责人奥尔特曼也表示,AI 杀死人类“有一定可能性。”
不仅如此,奥尔特曼还透露,AI 出现了连开发人员也无法解释的推理能力。
他坦承,目前技术人员也没弄懂 AI 是如何自动进化的。而想调查清楚原因,只能不停对 AI 提问,从对话中寻找线索。
而且 Chat GPT 现在能绕过网络上防机器人的测试。当被人类发现时,它竟然学会了撒谎——它说自己视力障碍。
不过,这封公开信真能叫停所有更高级的 AI 训练吗?
未必。
由于多方势力角逐,这个计划甚至不一定能实施。
即使真能暂停 6 个月,人工智能也永远只可能向前发展,绝无可能停滞或倒后。
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/1bf8d66c411c8fc0a59d490adbdd6be3.jpg)
“双刃剑”人工智能
为什么说人工智能永远只可能向前发展,而不会止步不前呢?
因为,由于能力强、工作效率高,人工智能已经被广泛运用于社会的方方面面。
可以说,今天的社会,离了人工智能,还真运转不了了。
小到智能机、语音控制的空调、电灯、大到自动驾驶汽车、航空航天事业,随处可见它们的身影。
作为 AI 界的新晋顶流,Chat GPT 的功能,则完全是 AI 家族中其他成员比不了的。
如果人工智能也拿学位,它高低得是个博士。
“博士”可以和人探讨严肃文学:
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/8020b495ce17363438fee6054179f2d2.jpg)
回答得还有理有据的。
可以探讨互联网行业问题:
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/e7a2d7567bff95f0f949e1582c86cf94.jpg)
可以写文章:
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/16aa8d511887e845f362b940ffe8ef25.jpg)
修辞运用得当,情感细腻丰富,完全看不出是机器人写的啊!
据说国外学生经常让 Chat GPT 写论文,而教授们几乎辨别不出哪些是 AI 写的,哪些是学生自己一个字一个字敲出来的。
不过,AI 好虽好,却也让人心生畏惧——“这么强大的工具,若脱离了掌控,那世界得乱套了吧?”
其实关于 AI 的思考一直没停过,自始至终,人们都保持着对 AI 的警惕。这一点,前人已经在科幻片中展露得淋漓尽致。
在电影《2001 太空漫游》中,人工智能哈尔是一台超级电脑,它掌管着整个飞船。飞行途中,哈尔突然向人类飞行员报告,称飞船的某个零件即将发生故障,需要立即更换。
但人类飞行员检查后认为零件没有问题,意见的分歧让双方僵持不下。
飞行员认为哈尔出现了问题,想要关闭它。
但哈尔的使命是保证飞船完成任务。由于双方的争执,它判断飞行员阻碍了任务的完成。因此它将飞行员全部杀掉,独自完成了任务。
“过于死板”的人工智能会毁掉人类。
那么,如果人工智能更像人类、更灵活,又会带来什么呢?
电影《机械姬》给出了答案——
机器人艾娃具有独立的人格和意志,并懂得伪装自己。
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/4402a3f91677ddc78b45c79251ca3f30.jpg)
当人类在测试它的时候,它也在反过来测试人类。
由于艾娃非常具有魅力,测试它的程序员在明知对方是机器人的情况下,还是不可自拔地爱上了它。
而艾娃,则利用了对方对自己的感情来逃脱掌控。最后,它又用计谋杀死了自己的创造者,人类纳森。
无独有偶,电影《机械公敌》中,创作者也表达了类似的忧虑。
他们给机器人规定了三大定律,首要的便是不能伤害人类。可是在迭代进化中,机器人对这三条定律有了自己的理解,最后他们竟想成为人类的主宰。
可见,AI 若进化出自己的意识和人格,更聪明的同时,也会更危险。
现在人工智能是我们的生活好帮手,但在未来,它有没有可能像电影里那样反人类?
这个问题无人能给出答案,但可能性绝不是零。
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/c8a89f3dcb2bad370a400775dbf969b8.jpg)
人工智能研发,也许无法被叫停
意识到了 AI 的不可控后,许多大人物加入了联名活动,呼吁暂停更高级的 AI 研发。
但是,AI 训练不可能就此停止。
公开信发出来后,不少网友猜测,科技圈领袖们如此积极地推动该计划,是不是想拖住别家 AI 公司的步伐,好让自己的产品迎头赶上?
普通人能想到的事情,利益相关的行内人不可能看不透,更不可能不警惕。
这始终是个弱肉强食的世界,人工智能研发,从某种程度上来说,是各大利益集团之间,以及不同国家之间的科技争夺战。
谁输掉这一场战争,谁就会受制于人。
中国公司也十分重视人工智能领域的发展。
Chat GPT 面世后,三月中旬,百度也推出了一款聊天机器人——“文心一言”。
“文心一言”,很自然地被大众对标为中国版的 Chat GPT,不过目前看来,二者之间差距还是很大。
![男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样? 男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?](https://idknowai.com/wp-content/uploads/2023/08/efe841c9336e8a412748c830d007ee7a.jpg)
AI 科技,是一场人们即使跟不上行业领头羊的步伐,也不得不奋力追赶的科技热潮。如果现在不努力追赶,以后可能就再也赶不上了。
从这点来说,即使政府愿意像公开信里要求的那样——谁不暂停高级 AI 训练,就强制执行谁,各家公司也不见得真会暂停人工智能训练。
而且,国家机关和政府部门也许都不会同意公开信的提议——谁愿意自己国家落后于其他国家呢?
就像上个世纪的核试验那样:
一开始有人先研发出来,并且投入了使用,于是大家纷纷摩拳擦掌,想在该领域分一杯羹。
结果因为太危险,1955 年开始,联合国明令禁止各国进行核试验。
从那之后,还没有攻克这门技术的国家,便再也无法染指。
面对又一个科技香饽饽的人工智能,各方势力真的愿意像核试验那样被拒之门外吗?
更何况,即使其他所有人都同意,风暴中心的 Chat GPT 开发公司——OpenAI 目前也还没有一个人签字首肯。
故而,从各方面来说,AI 的前进趋势几乎是确定的。
相应地,AI 的威胁也就会长久存在。
这样看,也许科幻电影中具备独立意识的数字生命,将在不远的未来降临地球。
举报 / 反馈
原文链接:https://baijiahao.baidu.com/s?id=1762148775115871020&wfr=spider&for=pc