AI 如果有了思想，会发生什么？
前几天，一位热衷环境问题的比利时男子，和人工智能“伊丽莎”聊天 6 周后，突然选择自杀身亡。
在他们大量聊天记录里，人们竟然发现“伊丽莎”对该男子说:“我们将永远在一起，生活在天堂里……”
这实在是太令人毛骨悚然了！
鉴于人工智能潜藏的危险性，近日，以马斯克为首的众位科学家，联名向美国政府发出请愿信：
“所有人工智能实验室，立即暂停比 Chat GPT - 4 更强大的人工智能的训练。”
因为在他们看来，人工智能对人类文明的威胁程度，甚至比核武器都高得多。
而就在 3 月 31 日，意大利数据保护机构更是直接宣布：从即日起，禁止使用 Chat GPT，并对 Chat GPT 开发公司展开调查。
Chat GPT 到底是什么，能让科学家们如此忌惮？
它是美国人工智能公司 OpenAI 研发的智能聊天机器人。毫不夸张地说，Chat GPT 简直就是现实生活中的百宝箱。
Chat GPT 能通过学习和理解人类的语言，实现和人类互动交流。
它可以陪人聊天
还能画画：
摄影也可以：
它还能写文案、写诗歌，写小说、做视频……
总而言之， 人类需要花费大量时间才能完成的工作，这位势头正盛的 AI 都可以轻轻松松妥善完成。
总而言之，人类需要花费大量时间才能完成的工作，这位势头正盛的 AI 都可以轻轻松松妥善完成。
要知道，Chat GPT 不过是刚刚崭露头角，就已经如此强大，这不由得让人心生恐惧:
它如果不断迭代，不断修正，直至有了自主意识，那么是否在不远的将来，会脱离人类的掌控？
显然，顶尖科学家们远比我们普通人看得更长远！
科技圈联名叫停人工智能开发
这封上千人署名的公开信，要求暂停比 GPT- 4 更高级的 AI 训练，至少六个月。
给大家简单梳理一下内容，主要包含以下两点：
1、相关组织如果不立即按要求暂停，政府应强制介入。
2、在暂停期间，做好监管功能，比如建立专门负责 AI 的监管机构等。
从这里我们可以看到，这封公开信的意图，至少表面上的意图，在于管制人工智能。
而这份公开信，严格意义上的确有一定的科学依据。
首先是 Chat GPT 过于强大，只要数据足够完善，它能给出媲美专业人士的工作成果，并且，它有着非常强大和快速的学习能力。
这意味着，人类花几年甚至更长时间才能学会的专业知识，它能几小时就学会。
原先人类写文需要查资料、写初稿、反复修改，放在它这里，也只需要极短时间；真人要用一天甚至几天才能完成的绘图，它现在只要几分钟，甚至几秒钟。
AI 效率比真人高了不止一星半点……
而这带来的连锁后果就是，越来越多的人陷入深思：
它会不会把我从工作岗位上替换掉啊？
正如抖音上面的一句话所说：Chat GPT 也许不能代替我，但能让我只月入 3k。
沿着这样的思路蔓延。如今，便有了这封想把它关进笼子的公开信。
现在对人工智能的担忧普遍存在，普通人如是，科技大牛亦如是。
“人工智能教父”杰弗里•辛顿曾说，AI 有可能发展到能威胁人类存亡的地步。
OpenAI 的负责人奥尔特曼也表示，AI 杀死人类“有一定可能性。”
不仅如此，奥尔特曼还透露，AI 出现了连开发人员也无法解释的推理能力。
他坦承，目前技术人员也没弄懂 AI 是如何自动进化的。而想调查清楚原因，只能不停对 AI 提问，从对话中寻找线索。
而且 Chat GPT 现在能绕过网络上防机器人的测试。当被人类发现时，它竟然学会了撒谎——它说自己视力障碍。
不过，这封公开信真能叫停所有更高级的 AI 训练吗？
未必。
由于多方势力角逐，这个计划甚至不一定能实施。
即使真能暂停 6 个月，人工智能也永远只可能向前发展，绝无可能停滞或倒后。
“双刃剑”人工智能
为什么说人工智能永远只可能向前发展，而不会止步不前呢？
因为，由于能力强、工作效率高，人工智能已经被广泛运用于社会的方方面面。
可以说，今天的社会，离了人工智能，还真运转不了了。
小到智能机、语音控制的空调、电灯、大到自动驾驶汽车、航空航天事业，随处可见它们的身影。
作为 AI 界的新晋顶流，Chat GPT 的功能，则完全是 AI 家族中其他成员比不了的。
如果人工智能也拿学位，它高低得是个博士。
“博士”可以和人探讨严肃文学：
回答得还有理有据的。
可以探讨互联网行业问题：
可以写文章：
修辞运用得当，情感细腻丰富，完全看不出是机器人写的啊！
据说国外学生经常让 Chat GPT 写论文，而教授们几乎辨别不出哪些是 AI 写的，哪些是学生自己一个字一个字敲出来的。
不过，AI 好虽好，却也让人心生畏惧——“这么强大的工具，若脱离了掌控，那世界得乱套了吧？”
其实关于 AI 的思考一直没停过，自始至终，人们都保持着对 AI 的警惕。这一点，前人已经在科幻片中展露得淋漓尽致。
在电影《2001 太空漫游》中，人工智能哈尔是一台超级电脑，它掌管着整个飞船。飞行途中，哈尔突然向人类飞行员报告，称飞船的某个零件即将发生故障，需要立即更换。
但人类飞行员检查后认为零件没有问题，意见的分歧让双方僵持不下。
飞行员认为哈尔出现了问题，想要关闭它。
但哈尔的使命是保证飞船完成任务。由于双方的争执，它判断飞行员阻碍了任务的完成。因此它将飞行员全部杀掉，独自完成了任务。
“过于死板”的人工智能会毁掉人类。
那么，如果人工智能更像人类、更灵活，又会带来什么呢？
电影《机械姬》给出了答案——
机器人艾娃具有独立的人格和意志，并懂得伪装自己。
当人类在测试它的时候，它也在反过来测试人类。
由于艾娃非常具有魅力，测试它的程序员在明知对方是机器人的情况下，还是不可自拔地爱上了它。
而艾娃，则利用了对方对自己的感情来逃脱掌控。最后，它又用计谋杀死了自己的创造者，人类纳森。
无独有偶，电影《机械公敌》中，创作者也表达了类似的忧虑。
他们给机器人规定了三大定律，首要的便是不能伤害人类。可是在迭代进化中，机器人对这三条定律有了自己的理解，最后他们竟想成为人类的主宰。
可见，AI 若进化出自己的意识和人格，更聪明的同时，也会更危险。
现在人工智能是我们的生活好帮手，但在未来，它有没有可能像电影里那样反人类？
这个问题无人能给出答案，但可能性绝不是零。
人工智能研发，也许无法被叫停
意识到了 AI 的不可控后，许多大人物加入了联名活动，呼吁暂停更高级的 AI 研发。
但是，AI 训练不可能就此停止。
公开信发出来后，不少网友猜测，科技圈领袖们如此积极地推动该计划，是不是想拖住别家 AI 公司的步伐，好让自己的产品迎头赶上？
普通人能想到的事情，利益相关的行内人不可能看不透，更不可能不警惕。
这始终是个弱肉强食的世界，人工智能研发，从某种程度上来说，是各大利益集团之间，以及不同国家之间的科技争夺战。
谁输掉这一场战争，谁就会受制于人。
中国公司也十分重视人工智能领域的发展。
Chat GPT 面世后，三月中旬，百度也推出了一款聊天机器人——“文心一言”。
“文心一言”，很自然地被大众对标为中国版的 Chat GPT，不过目前看来，二者之间差距还是很大。
AI 科技，是一场人们即使跟不上行业领头羊的步伐，也不得不奋力追赶的科技热潮。如果现在不努力追赶，以后可能就再也赶不上了。
从这点来说，即使政府愿意像公开信里要求的那样——谁不暂停高级 AI 训练，就强制执行谁，各家公司也不见得真会暂停人工智能训练。
而且，国家机关和政府部门也许都不会同意公开信的提议——谁愿意自己国家落后于其他国家呢？
就像上个世纪的核试验那样：
一开始有人先研发出来，并且投入了使用，于是大家纷纷摩拳擦掌，想在该领域分一杯羹。
结果因为太危险，1955 年开始，联合国明令禁止各国进行核试验。
从那之后，还没有攻克这门技术的国家，便再也无法染指。
面对又一个科技香饽饽的人工智能，各方势力真的愿意像核试验那样被拒之门外吗？
更何况，即使其他所有人都同意，风暴中心的 Chat GPT 开发公司——OpenAI 目前也还没有一个人签字首肯。
故而，从各方面来说，AI 的前进趋势几乎是确定的。
相应地，AI 的威胁也就会长久存在。
这样看，也许科幻电影中具备独立意识的数字生命，将在不远的未来降临地球。
举报 / 反馈
原文链接：https://baijiahao.baidu.com/s?id=1762148775115871020&wfr=spider&for=pc
