协同安全与发展 为人工智能划“红线”

74次阅读

转自:中国妇女报

由人工智能引擎生成的视觉艺术作品。来源:上观新闻 由人工智能引擎生成的视觉艺术作品。来源:上观新闻
参观者在世界人工智能大会达闼展位与柔美人形智能服务机器人互动。李心怡 / 摄 参观者在世界人工智能大会达闼展位与柔美人形智能服务机器人互动。李心怡 / 摄
在世界人工智能大会展区,元萝卜 AI 下棋机器人与观众对弈。辛梦晨 / 摄 在世界人工智能大会展区,元萝卜 AI 下棋机器人与观众对弈。辛梦晨 / 摄

◆《办法》的出台正式拉开我国全面监管人工智能的大幕;

◆“大数据杀熟”等利用算法搞不正当竞争被明令禁止;

◆ 对于人工智能中的算法“黑箱”问题,明确了分类分级监管原则;

◆ 在提供服务的过程中要防止产生各类歧视,推动生成式人工智能向善发展。

■ 中国妇女报全媒体记者 徐阳晨

生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。近日,国家网信办联合国家发改委、教育部、科技部等多部门公布《生成式人工智能服务管理暂行办法》(以下简称《办法》),自今年 8 月 15 日起施行。该《办法》的出台既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要。中国妇女报全媒体记者邀请相关专业人士对《办法》进行解读。

在约束中探寻激励机制

“《办法》的公布是我国首个全面监管人工智能的制度,是我国规范数字化建设迈向制度化、法制化的重要一步。”内蒙古财经大学信息化建设与管理中心主任、高级实验师郭立志指出,《办法》从微观上有助于我国生成式人工智能健康发展和规范应用,从宏观上遵循了数字中国、网络强国的战略导向。

当我国人工智能发展到一定的规模,数据积累为大模型场景落地带来实际可能性,相关的管理规则亟待完善。郭立志认为,在新技术迭代衍生,甚至颠覆产业模式的情况下,人工智能在滥用、侵权、欺诈等违规违法问题上风险也在加剧,政策监管并不是约束限制,而是为了在安全的“红线”中更好地支持 AI 发展。

《办法》总共分五章,分别对管理目标、服务提供者、用户权益保护等人工智能相关方面做出明确规定。其中不乏诸多创新鼓励措施,如提出“支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作”。

郭立志解释,上述规定意味着我国对各类研究机构全面敞开了人工智能的“大门”,允许各机构充分发挥各自研究优势,促进生成式人工智能开发效率。“可以这样说,《办法》中的具体措施是推动我国生成式人工智能深入应用的催化剂、助燃剂。”

切实压紧服务提供者责任

与互联网监管范式类似,生成式人工智能的首要责任人是服务提供平台、发布监管方以及内容生产者。《办法》第七条对生成式人工智能服务提供者(以下简称提供者)提出了五点要求,包括合法来源的数据和基础模型;不得侵害他人依法享有的知识产权等。明确要求提供者在提供服务时必须充分考虑所使用数据、信息、模型等因素必须具有合法来源,不得侵害他人的知识产权。

对于人工智能中的算法“黑箱”问题,《办法》明确了分类分级监管的原则,一是明确了安全评估与算法备案要求,二是明确了信息披露要求。“监督人工智能的系统设计与运行方式,是打开人工智能算法‘黑箱’,增加透明度的有效方法。”郭立志认为,《办法》要求对算法机制机理和训练数据来源、规模、类型、标注规则都要予以说明,可使算法尽可能暴露在监管之下,真正地透明起来。他建议在数据标注环节,还要细化标注规则,对标注的来源、质量、精度精心评估,让数据标注成为信息生成判定的关键依据。

此外,“大数据杀熟”等现象备受网民诟病,利用算法搞不正当竞争也在《办法》中被明令禁止。“对于算法,必须是正向产生效益的经济服务行为才给予鼓励。”郭立志强调,《办法》要求在提供服务的过程中要防止产生各类歧视,是进一步压实平台责任、防止企业利用数据搞市场恶意竞争的重要举措,有利于“反数据垄断”,维护广大用户合法权益,推动生成式人工智能向善发展。

建立对底层逻辑的正确引导路径

“从实践中看,人工智能生成内容的主创者都是‘机器’,所以处罚对象要有明确细化。”伟岸纵横(大连)安全科技有限公司副总裁孙崇科指出,《办法》对训练数据的合规性进行了明确的界定,一旦在生成内容领域违法违规,生成式人工智能服务提供者可能需要改变整个的算法逻辑或业务模式,这对于当下野蛮生长的 AI 生态来说,既是挑战,也是利好。

鉴于生成式人工智能有主动学习的能力,因此生成内容是否违规,不仅受模型的预训练数据影响,还受用户输入内容的影响。孙崇科指出,《办法》的相关合规界定雏形逐渐形成,算法底层逻辑的正确引导路径正在培育。他认为未来把服务方角色的明确、算法合规的界定、内容“红线”等问题置于成熟的监管系统中,生成式人工智能才会在更多场景顺利落地。

如何在充分发挥生成式人工智能的强大服务能力的同时,又能有效遏制其带来的技术风险?郭立志认为,仅有一部《办法》仍“势单力薄”,“在国务院 2023 年度立法工作计划中,人工智能法赫然在列。显然我国对人工智能有着系统的治理理念,准备了一整套‘组合拳’。此次《办法》的公布,则正式拉开我国全面监管人工智能的大幕。”

协同安全与发展 为人工智能划“红线”插图3

海量资讯、精准解读,尽在新浪财经 APP

原文链接:http://finance.sina.com.cn/jjxw/2023-08-04/doc-imzeyrci5989995.shtml

正文完
 
不知道
版权声明:本站原创文章,由 不知道 2023-08-09发表,共计2100字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布,如无来源则为原创,转载请注明出处。