上月底，一封名为《暂停大型人工智能研究》的公开信引发了科技圈的轩然大波。这封公开信呼吁，所有人工智能实验室应立即暂停训练比 GPT-4 更强大的 AI 系统，而且暂停时间至少需要 6 个月。
近日，生命未来研究所（Future of Life Institute）公布一封公开信，目前已有 1079 人签署。
签名者包括特斯拉和推特的 CEO 马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、《人类简史》的作者尤瓦尔·赫拉利、图灵奖得主约书亚·本吉奥等 1000 多位来自政界、商业界和学界的重要人物。
发布这封公开信的契机是什么？你认为当下的人工智能研发需要放缓脚步吗？近期狂飙的 AI 技术将会带来哪些社会变革？一起来聊聊吧。
01 指数爆炸式增长的 AI 模型
3 月 8 号，微软以百亿美金收购 Open AI 后，马不停蹄地发表论文预告了 Visual ChatGPT，聊天时不光可以用文字，还能图文并用，甚至根据指示生成图片。
3 月 9 号，微软德国 CTO（即：首席技术官）公布了即将到来的 GPT- 4 的信息，从单一语言模型进化了多模态模型，提供完全不同的可能性——如视频。
同一天，另一家 AI 公司 GigaGAN 突然宣布，他们训练了一个 10 亿参数的模型，效果和速度完全不逊色于 Stable Diffusion、DELL- E 这些模式。
3 月 13 号，斯坦福大学用 LLaMa 公开了一个叫 7Billion 的模型，训练了一个 Alpaca 的模型，表现极好。
第二天，Open AI 加班加点发表了最新 GPT- 4 的论文，多模态和图片输入功能如期而至。Google 立马跟进，同一天公布了 PaLM 模型 API 的入口，并且提到要把这个模型集成到旗下的 Workspace 中使用。
PaLM API 是一个新的开发者产品，可以轻松安全地试验 Google 的大型语言模型。
3 月 15 号，国内备受瞩目的 AI 绘图工具 Midourney 迭代出了第五代模型。以前被诟病的 AI 无法精细化手指的细节，经过这次更新得到了重大升级，对于手部细节的重现堪称极致。
绘画 AI 工具 Midourne 生成的图片，手部细节的生成得到了极大优化。
这场 AI 的激情战场还远没结束。
3 月 16 号，微软公布了结合 GPT 的 Copilot，自身地表最强生产力工具，包含各类自动化书写工作、做表格、做 PPT、出项目报告、工作总结。
打工人只用「说人话」，工具就能帮忙处理绝大部分任务。
编程必备 VSCode+Github Copilot，代码人的福音。
对于国内的民众而言，ChatGPT 是声名最盛的产品，暗流之下，更多的技术竞赛早已开始。竞赛里的公司就像是饥饿游戏里的玩家，没人敢掉队。公司之间的角逐，导致这场人工智能潮远超控制范围。
3 月 24 号，微软再次放出了一篇 154 页的论文，表示 像人类一样去思考，像人类一样去做事的人工智能 AGI 已经开始萌芽。
这一切的隐忧源于 AI 语言模型的训练模式，开发人员把海量的数据喂给模型，然而开发者无法掌控程序内部发生的变化，也就是程序里经常说的黑盒。有研究报告表明，AI 在短时间的迭代过程中产生了人类没有预见的进化模型。
AI 如此迅猛且不受控制的发展趋势引起了小部分的慌乱，因此有了上文提到的联名信事件的发生。
公开信里引用了一篇 AI 风险分析的论文，论文罗列了 8 个 AI- X 危险推测和失败模式，其中包括 AI 武器化、人类衰弱、认知侵蚀、欺骗等等。
比如其中有一条叫做 Power-seeking Behavior 权力争夺，直白讲述了 AI 对人类的潜在威胁。
这封信呼吁，所有人工智能实验室立即暂停训练比 GPT- 4 更强大的人工智能系统至少 6 个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。
如果不能迅速实施这种暂停，政府应介入并实行暂停。
02 生成式 AI 工具纳入监管
增速过快的 AI 智能，确实迅速引起各国政府的注意。中美计划将 AI 纳入监管，已经着手向公众征求 AI 监管意见。
国家互联网信息办公室网站 4 月 11 日消息，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，现向社会公开征求意见。
意见指出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
同时明确了利用生成式人工智能生成的内容应当 体现社会主义核心价值观 。利用生成式人工智能生成的内容 应当真实准确 ，采取措施防止生成虚假信息。 禁止非法获取、披露、利用个人信息和隐私、商业秘密。
提供者应当采取适当措施 防范用户过分依赖或沉迷生成内容。
用生成式人工智能产品向公众提供服务前，应当向国家网信部门申报安全评估。提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
03AIGC 的发展何去何从
不知道是幸运还是不幸，很显然，AI 的发展并没有停止，甚至有持续加速的倾向。
马斯克等人联合数千位计算机科学家，用公开信请愿，暂停一切大型 AI 实验半年以上。这六个月的时间是用来做 一份监督和规范 AI 发展的协议，避免 AI 的发展走向极端，超出人类的控制。
很显然并没有太多起效。
包括马斯克本人也被爆正组建 AI 团队，已经从谷歌旗下 AI 部分「挖走」两名工程师，计划正面交锋。
英国《金融时报》报道，马斯克正在组建人工智能初创公司，为了与 ChatGPT 的研发公司 OpenAI 展开竞争。
根据美国内华达州的商业文档，马斯克于 3 月 9 日成立了一家名为 X.AI 的公司 ，并将自己列为公司唯一的董事。 马斯克在推特内部启动了一项人工智能项目，不仅为此购买了约 1 万个 GPU（图形处理器），还计划组建由人工智能研究者和工程师构成的团队。
国内各大公司也在快速跟进。
无论我们愿不愿意接受，AI 的时代已经到来，以我们想象不到的速度快速渗透进我们的生活和工作。
这是一块足够大的蛋糕，当 Open AI 决定商业化，瞬间就变成百亿估值的公司，投资它的微软一夜翻身力压谷歌。其他的年轻 AI 公司也能陆续成功融资，巨大的利益驱动让他们无法停下脚步。
同样，AI 的发展也是国家之间的科技竞争，谁抢得了先机和市场，谁就越有话语权，甚至改变一个国家的走向。
这是一场难以抵挡的 AI 浪潮，就像开启的潘多拉魔盒，即使明面上暂缓，私底下有关 AI 的研发早已无法停止。
中影华龙教育
中影华龙数字艺术实训基地创办于 2006 年，前身是中影集团国家中影数字制作基地唯一的人才培训基地，作为中国影视行业的人才储备与培养中心，为中国影视行业培养了超过 10 万人的影视专业高端人才。
原文链接：https://www.bilibili.com/read/cv24021570/
