谷歌、OpenAI、微软等企业成立行业组织联合推动AI安全发展

谷歌、微软、OpenAI 和 Anthropic 近日宣布成立一个新的行业机构，目的是确保安全且负责任地开发 AI 模型。

在谷歌博客上发布的联合声明中，四家公司概述了这个名为 Frontier Model Forum 的组织，该组织负责推进 AI 研究，确定最佳实践，并与政府、政策制定者和学术界展开合作，为确保人工智能值得信赖和安全性铺平道路。

微软公司副董事长兼总裁 Brad Smith 表示：“开发 AI 技术的企业有责任确保其安全、可靠并处于人类控制之下。该举措是重要一步，旨在将科技行业聚集在一起、负责任地推进 AI 并应对挑战、使其造福全人类。”

自去年 11 月首次亮相以来，OpenAI 的 ChatGPT AI 聊天机器人因其理解自然语言并使用令人信服的类人对话进行回复而风靡一时。从那时起，AI 模型变得更加精致了，能够轻松地进行研究、长篇论文、执行逻辑谜题等。还有一些模型能够通过利用现有材料创建令人信服的图像和视频，从而引起对隐私和冒充的担忧。

声明称，Frontier Model Forum 的成员仅限于致力于大规模机器学习模型的公司，这些模型将构建并超越当前模型的能力。成员企业的任务是开发和部署这些“前沿模型”，并对安全构建这些模型做出坚定承诺，以及推出考虑到安全、信任和社区外展的联合举措。

在接下来的几个月中，Frontier Model Forum 打算成立一个顾问委员会来指导开展优先事项。创始公司还将重点为政府和社区引导 AI 模型发展进行决策和咨询。

根据声明，创始公司打算追随其他旨在为 AI 开发完整性带来积极成果举措的脚步，例如 AI 合作伙伴关系和 MLCommons。

Frontier Model Forum 的成立正值世界各国政府逐渐意识到 AI 模型和新兴行业背后的原始力量之际。上周，所有 Frontier Model Forum 的成员都加入了向白宫发布的自愿承诺声明，表示在总统拜登 4 月份会见科学和技术顾问以探讨 AI 技术的影响之后，他们将致力于解决人们对 AI 模型风险日益增长的担忧。

在某组织要求联邦贸易委员会调查 OpenAI 之后，这家公司最近成为美国联邦贸易委员的贸易行为调查目标。

与此同时，欧盟一直在推动全球第一部全面的 AI 法律，称为“AI 法案”（AI Act），该法案将规范欧盟对 AI 的监管方式。这项立法自 4 月以来一直被人们所争议，旨在平衡不断发展的行业与消费者的安全和担忧以及隐私、监控、版权等人权。