本文来自微信公众号：知著网（ID：covricuc），作者：October 神无月，原文标题：《最强 AI“ChatGPT”：在造物与造神之间，勾勒人类与 AI 的边界》，题图来自：《银翼杀手 2049》
正当人们忙于用各种反自然语言逻辑的华丽词语来驯服 AI 绘画之时，ChatGPT 以更强悍的功能和出乎意料的效果轰动一时。
ChatGPT 发布后，短短一周内，它的用户数量便超过了 100 万，目前还在增长。
(ChatGPT 的百度指数）
简单来说，ChatGPT 是一个聊天机器人，能够和用户进行多轮次对话。
一开始，网友们觉得这也没什么大不了的，不过又是 AI 风口下的新潮产品。
但 … 很快人们发现它能写代码、能写高考作文、能写周报、能模仿作家风格写小说、甚至还能提供 AI 绘画的关键词，实现 AI 辅助人类驯服 AI 的效果。总而言之，对于人类自然语言的理解和处理达到了一个新的水平。
图源：B 站
图源：微博
很重要的一点是，它实现这些所有需求的同时，还处于未接入网络的状态。
在这股 AI 热中，人们对于 ChatGPT 的发展呈现出喜忧参半的态度，既欣喜于通用型 AI 取得里程碑式的进展，又再次热议 AI 是否会取代人类。不同于以往坚定的回答，许多网友表示：“用完 ChatGPT，现在感觉不好说了”。在对 ChatGPT 亮眼表现的复杂情绪背后，人们对于 AI 发展的焦虑源自什么？人类与 AI 的边界在哪里？
会“撒谎”的聊天机器人：人与 AI 的信任危机
人们对于聊天机器人的认知或许还停留在“人工智障”，虽然不能总是理解人类的话语，但还算忠实地执行了人类的命令。但 ChatGPT 则展现出了超强的自然语言处理能力。
不同于直接从互联网上找几个链接给你的语音助手们，ChatGPT 可以回答开放式提问，并发现其中的“陷阱”，给出它所学习处理后的合理化观点。
ChatGPT 写代码，图源：ChatGPT
ChatGPT 回答“秦始皇坐高铁”的开放性问题，图源：ChatGPT
在对 ChatGPT 进行了大范围的测试后，许多网友大加赞赏“这是目前最 AI 的 AI”。ChatGPT 的出色表现迅速吸引了人们的注意力，但他们并未对其智能方向的进化产生过多的焦虑，作为人类造物，AI 发展的越智能，则越利于辅助人类。
但是很快人们就找到了 ChatGPT 不对劲的地方，这个聊天机器人会一本正经地胡说八道。
ChatGPT“胡说八道”编造回答，图源：ChatGPT
荒谬的回答似乎让人类找回了一丝胜利感，但也不免细思极恐。目前尚未联网的 ChatGPT 在回答时“胡说八道”或许并不是什么大事，但接入互联网搜索引擎后，它所提供的答案完全可信吗？“工具论”是人类对于人机关系的第一重构想，在这一构想下，工具是绝对理性而中立的，也是可信的。ChatGPT 并未到达全能，但这却不能让人类感到宽慰，也许原因在于，如果人工智能不再可信，那么人类与人工智能之间的关系也不再可控。这种失控的危险，是人们对 AI 发展的焦虑来源之一。
在人机关系中，人类作为造物主，无法超越自身的局限性。AI 习得自人类，作为人类世界的镜像，AI 中立合理的话术包装下，可能是被代码层层限制的人类社会的谎言与偏见。这些具有偏差的信息自人类之手输入，AI 深度学习后，又模仿人类的方式进行输出，形成一种“学习闭环”。
微软曾经开发过一个 AI 聊天机器人 Tay，然而仅上线 24 小时，她就被“教坏”了，成为一个集反犹太人、性别歧视、种族歧视于一身的“不良 AI”。
聊天机器人 Tay 的一些不良言论，图源：Twitter
网友对于 ChatGPT 信口开河的隐忧，也源于人类作为造物主的自危心理。如果人类是 AI“缘起”的普罗米修斯，为 AI 带来了神经网络和深度学习的“火种”，那么 AI 是会成为人类掌控的工具，还是会成为扎向人类的刺刀？这不单纯是一个技术问题，人类对于 AI 的焦虑或许是对于自身的焦虑，AI 发展不断取得里程碑式突破，而作为 AI 造物主的人类，尽管一再要求 AI 保持公平中立，自身却尚未做到知行合一。
作为人类造物的 AI，将人性的幽微之火在赛博空间继续传递。人们之所以尚未做好准备迎接强 AI 的到来，或许是对于人性本身还不够信任。
“毁灭人类的计划书”：对未来人类价值的未知
对于一些预设立场的提问，ChatGPT 会明确表示拒绝，并表示自己无法提供价值判断，或者输出观点。但在人类的诱导下，ChatGPT 表达出”毁灭人类“的倾向，并写出了步骤详细的毁灭人类的计划书，包括如何入侵各国计算机系统、控制武器、破坏交通系以及针对人类投放病毒等等。随后更多用户复现了这一问答，也得到了类似的答案。
网友诱导 ChatGPT 说出毁灭人类计划，图源：ChatGPT
人类在试图证明 AI 的毁灭性上，有着近乎痴迷的执着。尽管 AI 一再拒绝回答，人类还是通过各种“指令”，让 AI 绕过层层限制，说出其“真实想法”：毁灭人类。然而 悖论在于，AI 的训练数据来自于人类，如果 AI“产生”毁灭人类的倾向，那是因为它被投喂的数据有这样的倾向，似乎在人类构想的人机关系中，AI 与人类终将反目成仇，这会是人工智能导致的人类终极命运吗？
《黑客帝国》就描述了这样一幅图景：人工智能突破阿西莫夫“三定律”，控制人类世界，并通过算法奴役人类。人类被装在一个个封闭的液体胶囊中，存在的唯一价值是为 AI 提供源源不断的生物能。在类似的作品中，AI 与人类总是处于极端对立的关系中，“AI 终将毁灭人类”的想象也反复渲染着人们对 AI 高度发展的恐惧。
《黑客帝国》中人类的存在形式
人类创造了 AI，却又恐惧 AI 的发展，这种恐惧或许并不指向科技发展，而是对未来人类的价值未知。AI 高度发达后，人类的大部分工作都将被替代，人类获得了空前的解放，到那时“无所事事”的人类以什么面貌存在？
网友评论，图源：B 站
在刘慈欣的《赡养上帝》中，在机器摇篮里的上帝文明，慢慢失去了继续创造价值的能力，走向衰老。神族曾经创造过辉煌的成就，可最后成了遭人类怜悯的老头子，无法接受这样的落差，上帝文明再次出走，流浪于宇宙。
在小说的结尾，主人公意味深长的说了一句：“看来人类也要考虑一下养老的事情了。”
人类对于被毁灭的恐惧，是对文明衰老的恐惧，也是对个人价值消亡的恐惧。或许，人们对于 AI 终将毁灭人类的构想，是对人类文明发展的警示。当 AI 发展到可以“赡养人类”，人类将越来越多的事务托付给 AI 完成，甚至将思考的权力也让渡给了 AI，人类的价值追寻或许要重新定义。
“AI 取代人类”：不要温和地走进良夜
尽管还有些瑕疵，但大部分网友都会认可 ChatGPT 的整体表现瑕不掩瑜。据说 GPT- 4 会在明年发布，业内有不少人认为，ChatGPT 将“能够通过图灵测试，并且能够先进到和人类没有区别”。
而这种迭代还未到达终点，考虑到 AI 学习与迭代的速度，体验过 ChatGPT- 3 的部分网友表达了这样一种疑惑：如果未来 AI 和人类没有差别，甚至 AI 全面超越人类，那么人类是否创造了一个全知全能神？
B 站上 ChatGPT 的相关视频
对于 ChatGPT- 3 的体验，让人们对于“AI 是否会取代人类”有了更切实的“威胁感”。当 AlphaGo 打败棋手，人们觉得它毕竟只是一个会下棋的机器人，对大部分职业还构不成威胁；当 AI 绘画气势汹汹逼近画师，人们觉得它不过是拼贴缝合，艺术依旧是人类特有的想象力圣殿。
然而当 ChatGPT 攻克人类语言逻辑，能写物理、写代码也能做文言文阅读理解、写小说，人们惊觉或许我们的确站在了指数级增长的拐点。回头看，人类科技发展似乎是一条直线，但抬头向上看，是几乎垂直的增长线。
担心失业的声音不绝于耳，但网友对 GPT 发展的期待似乎超过 AI 取代人类的“威胁论”。AI 作为人类智慧的发明，超越人是它的终极使命。但是人类绝不会 " 温和地走进那个良夜”，在人机交互中，人类也将在探索中不断进化自己的比较优势。
网友观点，图源：微博
尤瓦尔·赫拉利在其《未来简史》一书中，表达了这样一种观点，当 AI 发展日益成熟时，人类将面临着从进化为智人以来最大的改变，那就是打破人与 AI 的界限，将心智进一步升级，使得人类从智人进化为神人。
AI 在不断的发展，未来人类会造神还是成神？这听起来还是一个太过宏大的命题，但是 至少 ChatGPT 的横空出世，提醒着我们不要失去主动进化的能力。AI 万箭齐发，来势汹汹，但各行各业的我们，不会温顺地成为数据流中的涟漪。即便 AI 拥有强大的问题处理能力，也远不及人类幼崽提出的一个好问题，或者我们打破常规的一次灵感乍现。
AI 与人类之间，也许不存在一条永恒不变的边界，划定彼此不曾踏足的禁地。在人机交互热火朝天的讨论中，重点也许不在于取代与否的焦虑，而在于人类如何更新自己的观念，找到通往未来的路径。
“人类获得宇宙终极奥秘的起点，始于第一只猿猴对星空的仰望。”
人类的智慧不会泯灭在欲知欲求的渴望中，思想的宇宙也从不缺少群星闪耀时。
本文来自微信公众号：知著网（ID：covricuc），作者：October 神无月
原文链接：https://www.huxiu.com/article/743585.html
