反击AI滥用!用AI防止AI绘画侵权的方法来了!

69次阅读

wuhu 专题

图片

文 | Subwater 啊呜

AI 技术的发展一直伴随着争议,有看好 AI 发展的,就有反对 AI 滥用的,核心就是需要健全 AI 使用规则和有效防止 AI 滥用的举措。

就拿近段时间来说,当 Midjourney、Stable Diffusion 这些 AI 绘图工具可以很快地根据用户的需求算出结果,当大家还在试图如何鉴别 AI,找出 AI 的弱点——画不好手,风格局限,甚至用 AI 生成动画还是会抖动等等。

结果,这些看似很难攻克的问题,都被 AI 迅速解决了

首先它已经通过 ControlNet 深度学习会了 画手 改变姿势

图片
图片
图片

还可以通过识别视频的动态解决了可以 一键生成 CG 角色,还可以解决绑定、动画、灯光渲染等问题


图片
图片
图片

在 AI 动画风格化效果和防抖动上,来自捷克专注于概念艺术设计的超自然工作(Paranormal studio)做了非常突破性的尝试,不但在风格滤镜上已经实现非常稳定的输出,AI 动画已经不抖动了,他们甚至还可以让动物的材质置换,实现了神奇的效果。

反击AI滥用!用AI防止AI绘画侵权的方法来了!插图7

虽然 AI 技术不断的发展,但是与 AI 相关的版权争议一直还是需要解决的核心问题!

美国版权局近日在一封信件中表示,人工智能(AI)绘画工具 Midjourney 制作的一部漫画中的插图不受版权保护,因为作者只是为 AI 绘画工具提供文本提示,并不是最后生成图像的“主脑”,不能算创作者

这是美国法院或官方机构首次就 AI 创作作品的版权保护范围作出裁定。美国裁定 AI 绘画不算创作者!


图片

路透社官方报道截图

伴随而来的核心问题是著作权争议,如果有艺术家主张自己的作品被 AI 侵权了,那它该如何维权,AI 作品要满足哪些要件,才能拥有著作权?同时,不想被“AI 垃圾”影响的艺术创作者,开始采取行动,形成反弹之势。

既然 AI 技术发展这么快?何不用 AI 来防止 AI 侵权?这有什么方法吗?

创作者的此番需求被一组研究团队看到了。芝加哥大学计算机科学学院的 SAND Lab 开发出一款名为 Glaze 的工具!

图片

这款工具可以非常有效的防止 AI 侵权艺术家的作品,目前已经开放下载

图片

创作者们都非常兴奋!

图片
图片

有艺术家已经率先使用

图片

国内艺术家第一时间也展开了尝试

以下是微博用户 @morty 燕返没对齐的展示

原图

图片

glaze 后

图片

原图

图片

glaze 后

图片

来自微博:@morty 燕返没对齐

尝试的结果良好,从画面效果上还多了一些纹理的效果,对于艺术家来说没有对本身作品有大的损失的前提下,如果可以有效的防止作品被 AI 侵权,大多数艺术家应该都是会支持的。

图片

也有用户客观反映了 Glaze 的使用结果

图片

Glaze 的幕后团队是谁?

它的原理是什么?

Glaze 的核心功能是让创作者的作品免受 AI 的模仿。Glaze 通过“误导”AI 的方式,使 AI 难以真正成功地学习创作者作品中的风格,而风格是艺术工作者的名片,此举旨在挫伤利用 AI 进行艺术抄袭之行为。

图片
图片

SAND Lab 由计算机科学教授 Ben Zhao 和 Heather Zheng 领导,团队其他成员还包括芝加哥大学计算机科学助理教授 Rana Hanocka 以及博士生 Jenna Cryan、Shawn Shan、Emily Wenger 等。

这家实验室的研究涵盖多个领域,最主要的三个核心领域分别是:无线和移动系统、人机交互和社会行为、安全和隐私

Ben Zhao 获得过不少的科技奖项,如《MIT Technology Review》TR-35 奖(35 岁以下的年轻创新者)、《ComputerWorld Magazine》前 40 名科技创新者奖等,其研究成果被《Scientific American》、《New York Times》、《Boston Globe》、《Wall Street Journal》和《MIT Tech Review》等知名媒体报道。

Heather Zheng 也是计算机科技领域十分有经验的学者,在加入芝加哥大学之前,曾于新泽西州贝尔实验室和微软亚洲研究院工作了 6 年。

进入 SAND Lab 的团队介绍页面,可以看到不少的,从样貌及名字都很像华人的成员:

图片

2020 年,SAND Lab 为了研究如何保护人们免受面部识别工具的侵害,开发出一种算法——Fawkes,它主要的原理在于 AI 的视觉判断方式和人类不完全一样,目前人脸识别的方法,很多是撷取脸部的视觉特征后,再加以比对。

Fawkes 之所以能起到效用,是因为它在照片中,增加一些肉眼看不到的小扰动,让 AI 撷取的照片特征近似于另外一个人,用以混淆人脸识别系统。

经过多家媒体的报道后,Fawkes 获得相当程度的知名度,下载量近百万次。2022 年,当创作者们面临着 AI 生成图像技术的冲击时,TA 们想到了 Fawkes,并希望它能够提供到帮助。


图片
图片

Fawkes

不过,在识别一幅画作的艺术风格方面,Fawkes 还是有局限性的,这是由于构成画面风格需要更多的特征,比如笔触、色调、阴影和纹理等。真正做到保护创作者的作品,需要将最为重要的风格特征识别出来。

“我们不需要改变画作中的所有内容来保护创作者,我们只需要改变风格特征,”团队成员 Shawn Shan 说。“所以,我们必须想出一种方法,将风格特征从画作中提炼出来,并仅尝试扰乱 AI 对原本的风格特征的判断。”


图片

原创作品(左)与 AI 生成的模仿作(右)

在做正式开发之前,研究团队调查了1100 多名艺术工作者,了解其在面对 AI 时忧虑什么、有多大的意愿还会上传作品到网上(要知道,网络是众多艺术创作者宣传自己以及作品的重要途径)。

“我们与艺术家们交流时,发现他们已经采取了行动来对抗 AI 模型,”Shan 说,“他们开始撤下自己的作品,或者只上传低分辨率的图像,但这样做对他们的事业非常不利,因为这是他们获得工作的途径。

Ben Zhao 教授表示,艺术创作者基本上都已经接受了如此事实——他们将失去工作,整个行业以后会消失 …… 这真的很令人震惊,教授认为 我们都没有理解 AI 模型对人们影响的程度,尤其是它们对创作者产生的冲击。

他也指出,职业艺术家非常担心 AI 模型会无节制地盗用其作品,而有艺术专业的学生则因为看不到未来而不得不退出课程。

那 Glaze 的运作机制是怎样的呢?

假设我们想保护一位艺术家在线作品集中的艺术作品不被人工智能公司拿走,用来训练可以模仿该艺术家风格的 AI 模型。

图片
图片

Glaze 的运作机制

首先,艺术家将原本的作品发布到网上之前,Glaze 对其进行了非常小的改动,人眼难以觉察到变化,这意味着画作看起来仍然与真正的版本几乎相同。


这一操作被称为“风格掩藏”(style cloak),而被改变的画作则称之为“掩藏的艺术品”(cloaked artwork)。

假如 Stable Diffusion 要模仿上面提到的艺术家的画作。因为 Glaze 的掩藏,Stable Diffusion会将作品“解读”为其它风格(例如梵高的风格)。

当有人要求 Stable Diffusion 生成那位艺术家风格的图像,那么 TA 将得到梵高(或某些混合)风格的结果。使用 Glaze,图像扰动越大,保护效果越好。

图片
图片
图片

Glaze 的运作机制

或许有人会说,“OK 啊,那我拿着这些模仿失败的生成品到处唬人好了”,但以开发 Glaze 的初衷来说,若真的可以有效防止创作者的心血被他人随意抄袭,这确实是好事一桩

在测试 Glaze 的过程中,SAND Lab 找来了 4 位正活跃的艺术家和 195 位历史上的艺术家的作品来训练它,并专门成立了一个艺术家小组来评价效果。有超过九成的艺术家表示自己会在发布作品之前使用 Glaze。

Ben Zhao 教授认为,由于图像生成 AI 需要不断地到网上抓取新的数据,所以“被掩藏的艺术品”的增加会越来越干扰它们模仿艺术家风格的能力。

他还说,“我们能够做的是理解 AI 模型以哪些维度查看图像,并且我们要扭曲它们里面的东西,而这些扭曲不影响人们观看作品的维度。”

图片

原创作品(左)、AI 生成的模仿作(中)

使用了 Glaze 后 AI 被“误导”的结果(右)

目前该工具已经完全开放下载,可针对不同配置使用。


图片

下载地址:

https://glaze.cs.uchicago.edu/download.html

由于这个项目并未打算商业化,所以下载是免费的。因为是外文工具,在艺术家使用的过程中记得文件名的使用是需要英文哟。

虽然 Glaze 很有可能在将来迎来新的挑战(或者说是挑衅),不过那是下一轮的人类与 AI 你来我回的较量了。

而从长远来看,教授认为这需要政策、监管以及法律手段来解决。目前 Glaze 团队还在不断优化工具。

图片

关于对 AI 绘画发展未来的担心,有网友晒出了和 chatGPT 的聊天记录:

图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片
图片

图片
图片

AI 的技术还在不断的发展,所有的技术和艺术的氛围一定都是需要在法律和道德的约束下,新技术的出现并不可怕,可怕的是不法分子趁机使用新工具谋取他人利益,艺术家们也需要提高防范意识,我们也期待着相关法律法规的举措实施,一起共建良好的艺术创作生态。

Glaze 项目主页

http://glaze.cs.uchicago.edu/

Ben Y. Zhao 教授的主页

https://people.cs.uchicago.edu/~ravenben/

SAND Lab 主页

https://sandlab.cs.uchicago.edu/

本期话题

你认为还有哪些防止 AI 滥用的手段呢?

参考资料:

1、Glaze Project

2、Shawn Shan, Ben Y. Zhao 等,GLAZE:Protecting Artists from Style Mimicry by Text-to-Image Models

3、UCHICAGO CS NEWS,UChicago Scientists Develop New Tool to Protect Artists from AI Mimicry

4、wttw news,University of Chicago Develops Tool to Protect Artists from AI Threat

5、映 CG,AI 反被 AI 误?!芝加哥大学研究团队 SAND Lab 推出免费工具 Glaze,保护艺术家作品免受 AI 模仿

6、TNL,职业绘师谈 AI 绘图:艺术家不是因为创作能力低而被 AI 淘汰,而是因为价格和人心

7、TNL,AI 软件 Fawkes 如何透过生成对抗网络,反制 Deepfake 换脸歪风?

8、Steam: AInder

—END—

原文链接:https://www.bilibili.com/read/cv22515445/

正文完
 
不知道
版权声明:本站原创文章,由 不知道 2023-08-16发表,共计4141字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布,如无来源则为原创,转载请注明出处。