男子与AI聊天后自杀,Chat GPT被紧急叫停,AI有了思想会怎样?

79次阅读

AI 如果有了思想,会发生什么?

前几天,一位热衷环境问题的比利时男子,和人工智能“伊丽莎”聊天 6 周后,突然选择自杀身亡。

在他们大量聊天记录里,人们竟然发现“伊丽莎”对该男子说:“我们将永远在一起,生活在天堂里……”

这实在是太令人毛骨悚然了!

鉴于人工智能潜藏的危险性,近日,以马斯克为首的众位科学家,联名向美国政府发出请愿信:

“所有人工智能实验室,立即暂停比 Chat GPT - 4 更强大的人工智能的训练。”

因为在他们看来,人工智能对人类文明的威胁程度,甚至比核武器都高得多。

而就在 3 月 31 日,意大利数据保护机构更是直接宣布:从即日起,禁止使用 Chat GPT,并对 Chat GPT 开发公司展开调查。

Chat GPT 到底是什么,能让科学家们如此忌惮?

它是美国人工智能公司 OpenAI 研发的智能聊天机器人。毫不夸张地说,Chat GPT 简直就是现实生活中的百宝箱。

Chat GPT 能通过学习和理解人类的语言,实现和人类互动交流。

它可以陪人聊天

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

还能画画:

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

摄影也可以:

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

它还能写文案、写诗歌,写小说、做视频……

总而言之, 人类需要花费大量时间才能完成的工作,这位势头正盛的 AI 都可以轻轻松松妥善完成。

总而言之,人类需要花费大量时间才能完成的工作,这位势头正盛的 AI 都可以轻轻松松妥善完成。

要知道,Chat GPT 不过是刚刚崭露头角,就已经如此强大,这不由得让人心生恐惧:

它如果不断迭代,不断修正,直至有了自主意识,那么是否在不远的将来,会脱离人类的掌控?

显然,顶尖科学家们远比我们普通人看得更长远!

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

科技圈联名叫停人工智能开发

这封上千人署名的公开信,要求暂停比 GPT- 4 更高级的 AI 训练,至少六个月。

给大家简单梳理一下内容,主要包含以下两点:

1、相关组织如果不立即按要求暂停,政府应强制介入。

2、在暂停期间,做好监管功能,比如建立专门负责 AI 的监管机构等。

从这里我们可以看到,这封公开信的意图,至少表面上的意图,在于管制人工智能。

而这份公开信,严格意义上的确有一定的科学依据。

首先是 Chat GPT 过于强大,只要数据足够完善,它能给出媲美专业人士的工作成果,并且,它有着非常强大和快速的学习能力。

这意味着,人类花几年甚至更长时间才能学会的专业知识,它能几小时就学会。

原先人类写文需要查资料、写初稿、反复修改,放在它这里,也只需要极短时间;真人要用一天甚至几天才能完成的绘图,它现在只要几分钟,甚至几秒钟。

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

AI 效率比真人高了不止一星半点……

而这带来的连锁后果就是,越来越多的人陷入深思:

它会不会把我从工作岗位上替换掉啊?

正如抖音上面的一句话所说:Chat GPT 也许不能代替我,但能让我只月入 3k。

沿着这样的思路蔓延。如今,便有了这封想把它关进笼子的公开信。

现在对人工智能的担忧普遍存在,普通人如是,科技大牛亦如是。

“人工智能教父”杰弗里•辛顿曾说,AI 有可能发展到能威胁人类存亡的地步。

OpenAI 的负责人奥尔特曼也表示,AI 杀死人类“有一定可能性。”

不仅如此,奥尔特曼还透露,AI 出现了连开发人员也无法解释的推理能力。

他坦承,目前技术人员也没弄懂 AI 是如何自动进化的。而想调查清楚原因,只能不停对 AI 提问,从对话中寻找线索。

而且 Chat GPT 现在能绕过网络上防机器人的测试。当被人类发现时,它竟然学会了撒谎——它说自己视力障碍。

不过,这封公开信真能叫停所有更高级的 AI 训练吗?

未必。

由于多方势力角逐,这个计划甚至不一定能实施。

即使真能暂停 6 个月,人工智能也永远只可能向前发展,绝无可能停滞或倒后。

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

“双刃剑”人工智能

为什么说人工智能永远只可能向前发展,而不会止步不前呢?

因为,由于能力强、工作效率高,人工智能已经被广泛运用于社会的方方面面。

可以说,今天的社会,离了人工智能,还真运转不了了。

小到智能机、语音控制的空调、电灯、大到自动驾驶汽车、航空航天事业,随处可见它们的身影。

作为 AI 界的新晋顶流,Chat GPT 的功能,则完全是 AI 家族中其他成员比不了的。

如果人工智能也拿学位,它高低得是个博士。

“博士”可以和人探讨严肃文学:

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

回答得还有理有据的。

可以探讨互联网行业问题:

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

可以写文章:

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

修辞运用得当,情感细腻丰富,完全看不出是机器人写的啊!

据说国外学生经常让 Chat GPT 写论文,而教授们几乎辨别不出哪些是 AI 写的,哪些是学生自己一个字一个字敲出来的。

不过,AI 好虽好,却也让人心生畏惧——“这么强大的工具,若脱离了掌控,那世界得乱套了吧?”

其实关于 AI 的思考一直没停过,自始至终,人们都保持着对 AI 的警惕。这一点,前人已经在科幻片中展露得淋漓尽致。

在电影《2001 太空漫游》中,人工智能哈尔是一台超级电脑,它掌管着整个飞船。飞行途中,哈尔突然向人类飞行员报告,称飞船的某个零件即将发生故障,需要立即更换。

但人类飞行员检查后认为零件没有问题,意见的分歧让双方僵持不下。

飞行员认为哈尔出现了问题,想要关闭它。

但哈尔的使命是保证飞船完成任务。由于双方的争执,它判断飞行员阻碍了任务的完成。因此它将飞行员全部杀掉,独自完成了任务。

“过于死板”的人工智能会毁掉人类。

那么,如果人工智能更像人类、更灵活,又会带来什么呢?

电影《机械姬》给出了答案——

机器人艾娃具有独立的人格和意志,并懂得伪装自己。

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

当人类在测试它的时候,它也在反过来测试人类。

由于艾娃非常具有魅力,测试它的程序员在明知对方是机器人的情况下,还是不可自拔地爱上了它。

而艾娃,则利用了对方对自己的感情来逃脱掌控。最后,它又用计谋杀死了自己的创造者,人类纳森。

无独有偶,电影《机械公敌》中,创作者也表达了类似的忧虑。

他们给机器人规定了三大定律,首要的便是不能伤害人类。可是在迭代进化中,机器人对这三条定律有了自己的理解,最后他们竟想成为人类的主宰。

可见,AI 若进化出自己的意识和人格,更聪明的同时,也会更危险。

现在人工智能是我们的生活好帮手,但在未来,它有没有可能像电影里那样反人类?

这个问题无人能给出答案,但可能性绝不是零。

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

人工智能研发,也许无法被叫停

意识到了 AI 的不可控后,许多大人物加入了联名活动,呼吁暂停更高级的 AI 研发。

但是,AI 训练不可能就此停止。

公开信发出来后,不少网友猜测,科技圈领袖们如此积极地推动该计划,是不是想拖住别家 AI 公司的步伐,好让自己的产品迎头赶上?

普通人能想到的事情,利益相关的行内人不可能看不透,更不可能不警惕。

这始终是个弱肉强食的世界,人工智能研发,从某种程度上来说,是各大利益集团之间,以及不同国家之间的科技争夺战。

谁输掉这一场战争,谁就会受制于人。

中国公司也十分重视人工智能领域的发展。

Chat GPT 面世后,三月中旬,百度也推出了一款聊天机器人——“文心一言”。

“文心一言”,很自然地被大众对标为中国版的 Chat GPT,不过目前看来,二者之间差距还是很大。

男子与 AI 聊天后自杀,Chat GPT 被紧急叫停,AI 有了思想会怎样?

AI 科技,是一场人们即使跟不上行业领头羊的步伐,也不得不奋力追赶的科技热潮。如果现在不努力追赶,以后可能就再也赶不上了。

从这点来说,即使政府愿意像公开信里要求的那样——谁不暂停高级 AI 训练,就强制执行谁,各家公司也不见得真会暂停人工智能训练。

而且,国家机关和政府部门也许都不会同意公开信的提议——谁愿意自己国家落后于其他国家呢?

就像上个世纪的核试验那样:

一开始有人先研发出来,并且投入了使用,于是大家纷纷摩拳擦掌,想在该领域分一杯羹。

结果因为太危险,1955 年开始,联合国明令禁止各国进行核试验。

从那之后,还没有攻克这门技术的国家,便再也无法染指。

面对又一个科技香饽饽的人工智能,各方势力真的愿意像核试验那样被拒之门外吗?

更何况,即使其他所有人都同意,风暴中心的 Chat GPT 开发公司——OpenAI 目前也还没有一个人签字首肯。

故而,从各方面来说,AI 的前进趋势几乎是确定的。

相应地,AI 的威胁也就会长久存在。

这样看,也许科幻电影中具备独立意识的数字生命,将在不远的未来降临地球。

举报 / 反馈

原文链接:https://baijiahao.baidu.com/s?id=1762148775115871020&wfr=spider&for=pc

正文完
 
不知道
版权声明:本站原创文章,由 不知道 2023-08-24发表,共计3271字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布,如无来源则为原创,转载请注明出处。