毒药样本转换
把任意图片转换为不适合模型训练的数据样本。被未经授权训练的模型会学到偏离预期的行为,例如请求「太空里飞的牛」时给出太空里飘的手提包。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
把图像变成不适合模型训练的「毒药」样本,抬高未授权抓取的成本。
Nightshade 是芝加哥大学团队开发的图像处理工具,把任何一张图转换成不适合机器学习模型训练的「毒药」样本。被未经授权地抓取训练的模型,会在这些图上学到偏离预期的行为——例如提示词要「太空里飞的牛」,模型可能给出「太空里飘的手提包」。它对裁剪、重采样、压缩、平滑、加噪都有抵抗力,甚至拍摄屏幕照片仍然有效。它的目标不是破坏模型,而是让未授权数据的训练成本上升,从而让「向创作者付费授权」变成可行的替代方案。对平面色块、平滑背景的作品,处理痕迹会更明显。
Nightshade 由芝加哥大学的研究团队设计并实现,面向在网上发布作品的创作者。它要解决的问题是:内容被未经许可地抓去训练生成式 AI,而现有的 opt-out 名单既无法验证也无法执行,即使被违反也难以高置信度地识别违规者。Nightshade 通过改变图像本身,而不是依赖模型训练方的自觉来形成制衡。
它的原理是把图像转换成「毒药」样本:人眼看到的是一张与原图基本一致的加了阴影的图,而 AI 模型在内部看到的构图则发生剧烈改变。它和同团队的 Glaze 采用相似的计算方式,都是以多目标优化的方式最小化对原图的可见改动。区别在于 Glaze 是防御性的、防风格模仿,Nightshade 是进攻性的、用于扰乱未经同意抓取图像的模型。官方正在推进把两个工具整合发布。
对单个创作者来说,Glaze 用于每一件发布到网上的作品;Nightshade 是可选的补充手段,由创作者群体共同使用,让抓取方付出代价。工具可以完全离线运行——装好之后断网、拔掉网络,处理完再退出程序,不涉及任何抓取、复制或对作品的训练。团队表示不接受投资、不卖 IP、不做模型训练,如需扩大工程或部署规模,会以非营利方式向艺术类基金会寻求捐赠。
把任意图片转换为不适合模型训练的数据样本。被未经授权训练的模型会学到偏离预期的行为,例如请求「太空里飞的牛」时给出太空里飘的手提包。
以多目标优化最小化对原图的可见改动。人眼看到的是基本不变的加阴影图像,模型内部看到的却是显著不同的构图。
裁剪、重采样、压缩、像素平滑、加噪之后毒效仍然存在;截图甚至拍摄屏幕上显示的图像,毒效依旧保留,因为它不是水印也不是隐写信息。
由于目的是扰乱模型,较低的强度对图像所有者没有负面后果,官方提供低强度设置,供优先保证原图视觉质量的用户选用。
可以安装后关闭无线网络、拔掉网络再运行,处理结束后退出程序再接回网络。不抓取、不复制作品,也不用于训练模型。
每张图的结果都不同,且带随机成分,同一张图重复运行也不会得到相同输出。如果不满意,再跑一次通常能看到明显不同的结果。
计算时以开源 AI 模型为参考,因此对 Stable Diffusion 类模型效果最强;对其他扩散模型通常也有较强迁移效果,但每张图的强度可能减弱,需要更多图才能达到同等净效果。
当你的诉求是「不让作品被白白抓去训练」时,Nightshade 值得作为 Glaze 之外的补充手段用:它不靠抓取方的自觉,而是通过给每一份未授权数据加成本,让付费授权变得划算。它抗裁剪、压缩、加噪,也经得住截图和拍屏。它最针对 Stable Diffusion 类模型,换到其他扩散模型效果会弱一些,需要更多张图才能积累同样的净效果;平面色块和平滑背景的作品上,处理痕迹也更明显,这种作品更适合选低强度档。另外,投入前需要先在官网确认费用细节。
作品被未经授权抓取训练的典型受害者。Glaze 用于每一件作品,Nightshade 作为可选的进攻手段叠加,用于扰乱不加区分的抓取模型。
毒效对裁剪、重采样、压缩、加噪以及截图、拍屏都成立,适合在多个平台发布同一批作品的创作者。
可以完全离线运行,装好后断网处理、处理完退出程序再联网,作品不经过任何外部服务。
扁平配色、平滑背景的作品上处理痕迹更明显,更适合选低强度档位,并在发布前逐张检查视觉质量。
计算以开源 AI 模型为参考,对 Stable Diffusion 类效果最强。若主要目标是其他扩散模型,单张效果可能被削弱,需要更大量图片。
不会。它被设计成可以完全离线运行:装好之后关掉无线网络、拔掉网络,运行处理,再退出程序之后才接回网络。团队表示不接受投资、不把 IP 卖给大公司、也不做模型训练,需要资金扩大工程或部署规模时会以非营利方式向艺术类基金会寻求捐赠。
Glaze 是防御工具,单个艺术家用来防止风格被模仿;Nightshade 是进攻工具,由艺术家群体用来扰乱未经同意抓取其作品的模型。官方建议每一件发布到网上的作品都用 Glaze 做自我防护,Nightshade 则是可选的补充手段,用来威慑不加区分的训练方,理想状态是两者都套在作品上,团队也在推进整合发布。
在。Nightshade 的效果对常见改动是鲁棒的:裁剪、重采样、压缩、像素平滑、加噪之后毒效依旧保留;截图、甚至用相机拍显示器上的图像,效果也仍然存在。它不是水印,也不是隐写信息,因此不容易被这些常规操作抹掉。
它的计算以开源 AI 模型作为参考,因此对 Stable Diffusion 类模型最有效。迁移效果通常意味着对其他扩散模型也会产生较强影响,但具体目标的样子可能不同,单张图的强度可能被削弱,也就是需要更多加阴影的图才能达到同样的净效果。
不会。Nightshade 针对输入图像逐张改变,每张图的结果都不同;计算中还带随机成分,因此同一张输入图每次运行也不会产生相同输出。如果对某次结果不满意,重新跑一次通常能看到明显不同的版本。
分情况。在平面配色、平滑背景的作品上,Nightshade 造成的改动更容易被看出来。由于它是为了扰乱模型,较低的强度对图像所有者没有负面后果,官方因此提供了低强度设置,供优先保证原图视觉质量的用户使用。