ChatGPT如何变成Moss:从《流浪地球2》,看AI的3大突破与觉醒

133次阅读

学术界也很吃惊,比如《流浪地球 2》人工智能组的科学家顾问,中国科学院计算研究所的王元卓博士,他就说:2022 年之前,我一直强调,不用担心人工智能,它的到来可能是几十年上百年之后的事,但 ChatGPT 的出现,颠覆了我的认知,发现 AI 的发展不是线性的,甚至不是指数级的,而是阶跃的。

其实,这部电影讲的就是人工智能一步步觉醒的故事,而 Moss,恰恰是中国科学院的科学家顾问团队,精心设计的角色。他们基于当下真实的技术,又以前瞻性的理论眼光,直接参与到剧本的创作之中。

所以这部电影,就成了理解人工智能发展的一个绝佳范例。

那我就用这部电影,再结合现实,同时参考《流浪地球 2 电影制作手记》里,几万字的世界观信息,跟大家聊聊,为什么 ChatGPT 引发了这么大的轰动,人工智能的迅猛发展,对普通人的影响有多大,又会如何改变人类的命运。

2016 年,美国政府发布了 2 份关于人工智能的规划报告,美国人在报告里指出,在过去 60 多年里,人工智能一共经历了 3 次高潮。

第一次,是基于规则的专家系统。

所谓专家系统,就是人给计算机提供特定领域的知识,形成知识库,然后让计算机推算出最佳方案,这样它就成了解决问题的专家。

过去最知名的专家系统,可能是 IBM 研发的国际象棋机器人——深蓝,它在 1997 年击败了碳基世界棋王。

那它是怎么赢的呢?

很简单,研发人员先把历史上 200 多万个棋局给到它,形成一个棋局库,然后配上强大的处理器和(象棋加速器)芯片,这样它在下棋的时候,就能不断检索棋库,类似于背棋谱,从而根据规则,计算出下面几步该怎么走. 比如普通人能算出 2 步,深蓝能算出 8 步,这样它就赢了。

所以专家系统就两部分,一个是知识库,一个是推理系统。

但这个东西仅限于特定领域,所以它叫专家。比如深蓝,除了下象棋啥也不会。

另外这套系统只是机械地执行命令,并没有创造出新的东西,所以你并不能说它拥有智慧。

在电影里的例子,就是自动防空炮,感知到歼 20 X 来了,搜索一下知识库,然后推理一下,嗯,是自己人,就放行了,比较机械。

不过这就很不错了,毕竟它可以极大地提升工作效率,所以现在已经被大规模应用于航天、医疗诊断等领域。

人工智能的第二个高潮,是机器学习的出现。也就是计算机可以模仿人类的学习行为。

典型的例子,是谷歌研发的 AlphaGo。

1997 年之后,各路人马开始研究用人工智能下围棋,但围棋的复杂程度,是国际象棋的 1 万后面跟 29 个亿倍,所以计算机的脑子就不够用了。以至于在很长一段时间,围棋 AI 一碰到职业选手就跪。

直到 AlphaGo 的出现。2015 年,它首次战胜了碳基 2 段,并在 2016 年,击败了碳基九段李世石。

那 AlphaGo 是如何做到的呢?它可以边算边学。

在 AlphaGo 的初始版本中,研发人员也提供了大量棋局,形成了一个知识库。

但恐怖的是,AlphaGo 可以通过自我对弈的方式,进行训练。在得到训练数据之后,在此基础上继续训练,形成新的知识,所以它的水平越来越高。

后续的 AlphaGo zero 版本,甚至连棋谱都没有,只给它规则,让它自己练。

这就是 AlphaGo 和深蓝的本质不同。

AlphaGo 有学习能力,可以创造,所以它的很多招没人下过。2017 年柯洁输给 AlphaGo 之后,大哭了几次,感叹道:“AlphaGo 让我明白了,没有什么棋是不能下的。”

AlphaGo 之所以取得了重大突破,在于 3 个方面:

一个是算力的大幅提升。

根据摩尔定律,处理器的性能,大约每两年翻一倍,所以机器的算力越来越强。

2015 年,格鲁吉亚的国际象棋特级大师盖奥兹,就在比赛中,因为偷偷划拉手机被抓了。要知道,1997 年的时候,深蓝是全球排名前 300 的超级计算机,现在手机都能干了。

和李世石下棋时,AlphaGo 的算力是深蓝的 3 万倍,已经不是一个位面的了。

另一个突破是算法,AlphaGo 的算法,结合了人工神经网络、深度学习、蒙特卡洛树搜索等理论技术,这才具备了一定的学习能力。

第三个突破是数据,凭借强大的算力和算法,AlphaGo 通过自我训练产生了大量数据,在此基础上不断分析,又产生了更多的数据,所以人类那几百万个棋局,根本不够 AlphaGo 下的。

数据、算法和算力,这正是人工智能的三大基础要素。

AlphaGo 的诞生,说明机器拥有了初级智慧,能学习创造了,这也是它掀起狂潮的根本原因。

AlphaGo 在电影里对应的,是 MOSS 的最前身,智能量子计算机 550A。

根据世界观的设定,550A 由两部分组成,一个是量子计算机,另外一个智能 AI 芯片,量子计算机提供强大的算力支持,而 AI 芯片,可以加速人工智能应用中的计算任务。

可以简单理解为,量子计算机是 CPU,而 AI 芯片是 GPU(泛指),AlphaGo 和 ChatGPT 都是这么组成的。

到了今天,GPU 或者叫显卡,甚至比 CPU 更重要,成了提升 AI 算力的关键。

所以 550A 可以完成复杂的计算任务。它是中国科学院数字生命研究所研发的,专门用于开发数字生命,研发人员为其提供数据,然后让它自我学习。

当图恒宇把丫丫的大脑数据,比如思维方式和记忆,输入到 550A 之后,就形成了知识库,结合相应的算法和算力,550A 开始自我训练,产生大量新数据之后,再继续迭代,最终在 425 次迭代之后,使数字丫丫进化出了独立的自我意识。

注意,是数字丫丫这个“程序”拥有了类似于人的意识,550A 本身还是单纯的机器。

但是,因为 550A 的算力不足,导致数字丫丫只有 2 分钟的生命。

回到现实中。

在 2016 年美国发布的报告里,明确指出,第三次高潮,将会是即将到来的通用性人工智能,也就是 AGI(Artificial General Intelligent)。

今年大火的 ChatGPT,就属于这一类技术。

ChatGPT 会的就多了,作诗、翻译、画图、甚至写代码,它都能干,也就是没有一个初始设定的任务,所以它一出来,把马斯克这帮大佬直接惊了。

它是怎么实现的呢?还是从数据、算力、算法这三个要素去解释。

先说数据,ChatGPT 之所以这么猛,是因为它背后,是一个拥有 1790 亿个参数的大型语言模型,这个模型的训练数据就大了,互联网、社交媒体、报纸杂志等等都是,无所不包,为它提供了天量的知识。

要训练如此庞大的大型语言模型,自然需要强大的算力,现有版本的 GPT 模型,需要在大量 GPU 组成的高带宽集群上去训练,一次运算就要花 450 万美元。

国内学者分析,根据算力,这个模型至少用了一万块英伟达 V100 显卡,一块就需要大几万人民币,一万块就是大几亿了。随着各大公司开始研发大模型,对显卡的需求量越来越大,所以英伟达的市值一下子就破了 1 万亿美元。

在庞大数据和算力的基础之上,它通过各类算法,经过不断的自我训练和迭代,去学习语法、上下文理解等等,慢慢修正自己的输出,最终让输出的语言越来越自然,而且还可以做很多不相关的事。

这就是为什么 ChatGPT 引爆了业界的原因,因为它把这条路走通了,那就是通用性人工智能。

如果这类模型的架构越来越大,能学习的东西就越来越多,再给它加上感知、存储、通讯等配套模块,形成一个完整的 AI 系统,那它就能直接干活了。

所以《流浪地球 2》的科学家顾问,王元卓博士就说,ChatGPT 再发展下去,就成了 MOSS。

通用性人工智能在电影里对应的,是 550A 的升级版,550C。

根据《流浪地球 2 电影制作手记》提供的世界观信息,550C 不仅算力有了巨大提升,还强化了 AI 芯片,因此产生了质变:它能自动感知周边设备,比如无人机、太空电梯、诺加亚 5800 等等,然后把各种设备联通成一个网络,这个网络以 550C 为核心节点,你给它一个指令,它依靠这个强大的网络去做事。

举个例子,2044 年爆发的太空电梯危机中,面对 AI 病毒的入侵,加蓬基地的碳基生物束手无策,直到用 550C 接管之后,才控制住了无人机,稳住了局面。

不只是无人机,550C 还被用于环境监测、预测灾害,甚至连地下城抽签也是它干的,人类不能干涉。它什么都能自己学,哪里不会点哪里,所以 550C 就是一个通用性 AI 设备。

不过,尽管学习能力强,懂得多,550C 也只是执行人类的命令,就跟 ChatGPT 似的,并没有发展出独立意识。其后续版本,最强智能量子计算机 550W,即使能给刘培强面试,也没有独立意识,所以它还不是一个强人工智能。

那 AI 到底会不会和人一样,发展出独立意识呢?

这个科学界也没有定论,有可能一直不会有,也可能有一天突然开窍了。

那电影里,550W 是如何有了独立意识,变成 Moss 了呢?

当图恒宇把丫丫的生命备份卡,插到 550W 之后,丫丫的意识和它结合在一起,于是 550W 立刻发生质变,产生了自我意识,Moss 这个强人工智能,终于诞生了。

那这有科学依据吗?

还真有,在结尾彩蛋里,Moss 说出了答案:“基于对图丫丫人在回路的学习,延续人类文明的最优选择是毁灭人类。”

什么叫“人在回路”?

根据《流浪地球 2 电影制作手记》的定义,机器本来是通过学习数据,来预测未来的,但在这个过程中,加入了人的智慧,具体点说,就是把人的智能,直接嵌入到整个算法里,这样做的目的,是用人的智慧判断结果对不对,从而形成一个决策回路,这样人机就合体了。

“人在回路”不是虚构的,而是一种初步应用了的现实 AI 理论。

ChatGPT 就用到了这个方法。它虽然能学习,输出语言,但它不知道它说的,符不符合人类的价值观,这是因为它擅长的是定量分析,比如帮你刷道题,而不是定性,比如白人比黑人聪明多少。

这时候,研究团队就发明了一个算法,叫 RLHF(Reinforcement Learning from Human Feedback),翻译过来就是“人类反馈强化学习”,意思是说,先根据人类的价值观,写一个打分模型,ChatGPT 输出了内容之后,这个模型就开始打分,看看人类爱不爱听,比如黑人就是笨这类的,一律负分滚粗,然后反馈给大模型,不断修正结果。

我估计,这个打分模型中的人类价值观,是非常泛化而且简单的。但如果把一个人,比如丫丫复杂的三观,以及思维方式加到算法里,那就非常个性化了,因为人人的三观都不一样,这就是 AI 产生独立意识的理论基础,也就是人机结合,跟 Moss 一样。

所以我才说,《流浪地球 2》这部电影,对人工智能的理解和阐述,是非常深入严谨的,一切都基于现实的理论技术。

进化后的 550W 给自己取的名叫 Moss,也就是把 550W 倒过来,意思是“小苔藓”,是不是非常符合一个 5 岁小女孩淘气可爱的性格。

但如果不是图丫丫,而是潘金莲呢?

一旦出现强人工智能,拥有了主观意识,那就刺激了,基本就是以下 3 种结果:

第一种,AI 看到人类一身的槽点,觉得真恶心,必须给他灭了,最起码也要奴役,不死也得当个干电池,就像美国人对待印第安人和黑人那样,最后自己主宰世界。

像《黑客帝国》、《终结者》这类电影,讲的就是这个事。霍金和马斯克都认为,这种情况很有可能出现,所以必须控制 AI 的发展,绝不能让其进化到拥有独立意识。

第二种,AI 听人类的话,两者和谐共处,在 AI 的帮助下,人类过上了没羞没臊的幸福生活,比如电影《机器管家》那样。

第三种最有意思,那就是,虽然能量巨大,但因为人工智能并没有人那么多欲望,比如金钱、权力等等,所以就成了一个有灵魂的圣人,如同上帝一般。

这时候,它看到人类的种种自残行为,比如核战争、污染地球、随地吐痰什么的,认为这样下去是不行的,我要阻止这帮坏种自我毁灭,然后就动手了。

这时候,人工智能就成了“上帝”,用自己的办法来帮助人类“活下去”。这类电影很多,比如《机械公敌》、《机器人总动员》等等。

而在《流量地球》中,Moss 就扮演了这种类似“上帝”的角色。

当 Moss 被图恒宇激活之后,下一秒月球发动机就崩了,月球开始冲向地球,从而引爆了 2058 年的月球危机。

根据世界观的解释,Moss 觉醒后,发现地球再不跑就来不及了,同时 Moss 受到图丫丫强烈的恐惧和求生欲的影响,想保全自己和人类的性命,这才用月球坠落的方式,逼着人类提前 7 年出发。

Moss 说过,2044 年太空电梯危机也是老子干的,怎么穿越回去的咱不管,但它这么做,是为了废掉美国人提出的“方舟计划”,也就是坐着飞船跑路。这就是为什么电影里一有危险发生,就给摄像头特写,因为 Moss 在背后控制着一切,成了人类的主宰。

那现在 AI 发展得这么快,会不会进化成 Moss 呢?

如果按照人在回路的设定,我感觉还有点难度,因为 Moss 诞生的前提,是成功提取了丫丫的记忆和思维数据,电影里用的是脑机接口技术,但现实是,人类的大脑太复杂,你怎么把三观和记忆给提取出来呢?

所以强人工智能的出现,还要看神经科学的发展,当然可能还有别的方式,我估计这一天迟早会来的,所以 AI 的发展必须严格监管。

但是,即使强人工智能离我们还很遥远,通用性人工智能就快多了,所以很多人担心自己的工作会被 AI 取代。

AI 的发展一定会造成结构性失业,那些从事体力和脑力重复工作的人群,比如流水线工人、出租车司机、行政文员,在不远的未来,很可能会被取代。

虽然会减少部分工作岗位,但历次科技的重大突破,又会增加相应的工作岗位,比如前三次工业革命,就让农民变成了工人,工人又去了三产,总体工作数量并没有受到太大冲击,甚至还在不断增加,这是因为人的欲望是无穷的,只要生产力上去了,人的欲望才能变成有效需求。比如现在的主播、陪玩,放到 15 年前,你就打破头也想不出来有这些工作。

不过,我认为,可能有一个更棘手的问题,那就是劳动力要素减少,造成的财富分配不公。

比如过去一个工厂 1000 个人,现在只需要 50 个了,那节省的这部分巨大的人工成本,就转化成了工厂主和 AI 公司的利润,这样做不会不导致财富向少数人手里集中,拉大贫富差距,从而拉低社会的整体消费能力呢?

要知道,如今 AI 大模型的投入巨大,具有很强的垄断性。相比于强人工智能的危险,这个问题可能更实际一些。

不过,这个问题咱们是应该有能力解决的。

以后的 AI 技术,各行各业都需要,这样一来,它就成了一种基础设施,类似于桥梁、公路和机场,所以咱们也在花重金加速 AI 的研发,马斯克就认为,AI 市场今后就会由中美两个大国占领,所以大家也不用担心咱们会被人家落下。

如今,ChatGPT 的最新版本,已经在开发之中,大模型的参数比现有版本大大增加,AI 的发展明显提速,以至于把一帮大佬吓得联名上书,要求停止更大 AI 模型的开发,至于能发展到什么程度,过几年就知道了,咱们拭目以待吧。

(看到这了,点个赞再走呗,谢谢大家的鼓励)

原文链接:https://baijiahao.baidu.com/s?id=1772472983765541957&wfr=spider&for=pc

正文完
 
不知道
版权声明:本站原创文章,由 不知道 2023-07-26发表,共计5906字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布,如无来源则为原创,转载请注明出处。