AI人工智能技术将被叫停?是刻意的阻碍还是理性的思考?

175次阅读

上月底,一封名为《暂停大型人工智能研究》的公开信引发了科技圈的轩然大波。这封公开信呼吁,所有人工智能实验室应立即暂停训练比 GPT-4 更强大的 AI 系统,而且暂停时间至少需要 6 个月。

图片

近日,生命未来研究所(Future of Life Institute)公布一封公开信,目前已有 1079 人签署。

签名者包括特斯拉和推特的 CEO 马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、《人类简史》的作者尤瓦尔·赫拉利、图灵奖得主约书亚·本吉奥等 1000 多位来自政界、商业界和学界的重要人物。

发布这封公开信的契机是什么?你认为当下的人工智能研发需要放缓脚步吗?近期狂飙的 AI 技术将会带来哪些社会变革?一起来聊聊吧。

01 指数爆炸式增长的 AI 模型

3 月 8 号,微软以百亿美金收购 Open AI 后,马不停蹄地发表论文预告了 Visual ChatGPT,聊天时不光可以用文字,还能图文并用,甚至根据指示生成图片。

图片

3 月 9 号,微软德国 CTO(即:首席技术官)公布了即将到来的 GPT- 4 的信息,从单一语言模型进化了多模态模型,提供完全不同的可能性——如视频。

同一天,另一家 AI 公司 GigaGAN 突然宣布,他们训练了一个 10 亿参数的模型,效果和速度完全不逊色于 Stable Diffusion、DELL- E 这些模式。

图片

3 月 13 号,斯坦福大学用 LLaMa 公开了一个叫 7Billion 的模型,训练了一个 Alpaca 的模型,表现极好。

第二天,Open AI 加班加点发表了最新 GPT- 4 的论文,多模态和图片输入功能如期而至。Google 立马跟进,同一天公布了 PaLM 模型 API 的入口,并且提到要把这个模型集成到旗下的 Workspace 中使用

图片

PaLM API 是一个新的开发者产品,可以轻松安全地试验 Google 的大型语言模型。

3 月 15 号,国内备受瞩目的 AI 绘图工具 Midourney 迭代出了第五代模型。以前被诟病的 AI 无法精细化手指的细节,经过这次更新得到了重大升级,对于手部细节的重现堪称极致。

图片

绘画 AI 工具 Midourne 生成的图片,手部细节的生成得到了极大优化。

这场 AI 的激情战场还远没结束。

3 月 16 号,微软公布了结合 GPT 的 Copilot,自身地表最强生产力工具,包含各类自动化书写工作、做表格、做 PPT、出项目报告、工作总结。

打工人只用「说人话」,工具就能帮忙处理绝大部分任务。

图片

编程必备 VSCode+Github Copilot,代码人的福音。

对于国内的民众而言,ChatGPT 是声名最盛的产品,暗流之下,更多的技术竞赛早已开始。竞赛里的公司就像是饥饿游戏里的玩家,没人敢掉队。公司之间的角逐,导致这场人工智能潮远超控制范围。

图片

3 月 24 号,微软再次放出了一篇 154 页的论文,表示 像人类一样去思考,像人类一样去做事的人工智能 AGI 已经开始萌芽

这一切的隐忧源于 AI 语言模型的训练模式,开发人员把海量的数据喂给模型,然而开发者无法掌控程序内部发生的变化,也就是程序里经常说的黑盒。有研究报告表明,AI 在短时间的迭代过程中产生了人类没有预见的进化模型。

AI 如此迅猛且不受控制的发展趋势引起了小部分的慌乱,因此有了上文提到的联名信事件的发生。

图片

公开信里引用了一篇 AI 风险分析的论文,论文罗列了 8 个 AI- X 危险推测和失败模式,其中包括 AI 武器化、人类衰弱、认知侵蚀、欺骗等等。

图片

比如其中有一条叫做 Power-seeking Behavior 权力争夺,直白讲述了 AI 对人类的潜在威胁。

这封信呼吁,所有人工智能实验室立即暂停训练比 GPT- 4 更强大的人工智能系统至少 6 个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。

如果不能迅速实施这种暂停,政府应介入并实行暂停

02 生成式 AI 工具纳入监管

增速过快的 AI 智能,确实迅速引起各国政府的注意。中美计划将 AI 纳入监管,已经着手向公众征求 AI 监管意见。

国家互联网信息办公室网站 4 月 11 日消息,为促进生成式人工智能技术健康发展和规范应用,根据《中华人民共和国网络安全法》等法律法规,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,现向社会公开征求意见。

图片
国家互联网信息办公室就生成式 AI 监管问题征求公众意见

意见指出,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

同时明确了利用生成式人工智能生成的内容应当 体现社会主义核心价值观 。利用生成式人工智能生成的内容 应当真实准确 ,采取措施防止生成虚假信息。 禁止非法获取、披露、利用个人信息和隐私、商业秘密。

图片

提供者应当采取适当措施 防范用户过分依赖或沉迷生成内容

用生成式人工智能产品向公众提供服务前,应当向国家网信部门申报安全评估。提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责

03AIGC 的发展何去何从

不知道是幸运还是不幸,很显然,AI 的发展并没有停止,甚至有持续加速的倾向。


马斯克等人联合数千位计算机科学家,用公开信请愿,暂停一切大型 AI 实验半年以上。这六个月的时间是用来做 一份监督和规范 AI 发展的协议,避免 AI 的发展走向极端,超出人类的控制。

图片

很显然并没有太多起效。

包括马斯克本人也被爆正组建 AI 团队,已经从谷歌旗下 AI 部分「挖走」两名工程师,计划正面交锋。

英国《金融时报》报道,马斯克正在组建人工智能初创公司,为了与 ChatGPT 的研发公司 OpenAI 展开竞争。

根据美国内华达州的商业文档,马斯克于 3 月 9 日成立了一家名为 X.AI 的公司 ,并将自己列为公司唯一的董事。 马斯克在推特内部启动了一项人工智能项目,不仅为此购买了约 1 万个 GPU(图形处理器),还计划组建由人工智能研究者和工程师构成的团队。

图片

国内各大公司也在快速跟进。

图片

无论我们愿不愿意接受,AI 的时代已经到来,以我们想象不到的速度快速渗透进我们的生活和工作。

这是一块足够大的蛋糕,当 Open AI 决定商业化,瞬间就变成百亿估值的公司,投资它的微软一夜翻身力压谷歌。其他的年轻 AI 公司也能陆续成功融资,巨大的利益驱动让他们无法停下脚步。

同样,AI 的发展也是国家之间的科技竞争,谁抢得了先机和市场,谁就越有话语权,甚至改变一个国家的走向。

这是一场难以抵挡的 AI 浪潮,就像开启的潘多拉魔盒,即使明面上暂缓,私底下有关 AI 的研发早已无法停止。

图片

中影华龙教育

中影华龙数字艺术实训基地创办于 2006 年,前身是中影集团国家中影数字制作基地唯一的人才培训基地,作为中国影视行业的人才储备与培养中心,为中国影视行业培养了超过 10 万人的影视专业高端人才。

原文链接:https://www.bilibili.com/read/cv24021570/

正文完
 
不知道
版权声明:本站原创文章,由 不知道 2023-08-16发表,共计2703字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布,如无来源则为原创,转载请注明出处。