百元定制明星带货视频:AI盗脸30分钟出片,平台审核轻松过
定制一条1分钟左右AI盗脸女明星的带货视频,30分钟就能搞定,且只要百元;已故知名明星的盗脸视频竟能轻松通过了平台审核……“双十一”临近,明星被AI盗脸带货等侵权行为再次引发关注。澎湃新闻“马上测”实测发现,虽然“即梦”、豆包等AI平台已禁止制作涉及明星的带货视频,但淘宝、闲鱼等平台仍存在一些商家在“冒险”...
一条1分钟左右的AI盗脸女明星带货视频,30分钟就能做完,价格只要百元;连已故知名明星的盗脸视频,也能轻松通过平台审核。
“双十一”快到了,明星被AI盗脸带货这类侵权问题又引起关注。澎湃新闻“马上测”实测发现,“
即梦”、豆包等AI平台已经禁止制作涉及明星的带货视频,可淘宝、闲鱼上仍有商家在“冒险”接单。
抖音、小红书、快手、视频号等短视频平台一直在打击AI盗脸等侵权视频。但“马上测”花350元定制了3条盗脸视频,上传到这些平台后发现,不管勾没勾“内容由AI生成”标识,甚至有的视频明确标着被侵权明星的姓名条,最后都轻松过审发布了。
中国政法大学副教授、北京市电子商务法治研究会副会长朱巍对此表示,监管要前移到AI生成工具上,这类工具必须做算法备案、加标识,先拿到授权再生成。平台要履行“通知—删除”责任,同时加大对发布者和相关机构的侵权成本。
朱巍还建议,平台应搭建肖像和声纹比对库,凡未经授权、又与库内肖像和声音匹配的,都要作出明确的侵权提示,或者直接拦截发布。
有网店接单做AI侵权视频,声称只要说一句“出了问题与制作方无关”就能做。
此前,演员吴越曾发文怒斥自己被AI换脸用于直播带货,涉事账号还发过多条“
据媒体报道,
到底是谁在做、在卖盗脸明星的AI带货视频?
“马上测”实测发现,用“即梦”、
豆包等AI平台制作明星带货视频,都会被提示“可能涉及公众人物相似的肖像,无法生成”。
淘宝、闲鱼等平台却是另一番景象。
记者在淘宝搜“AI视频制作”等关键词,出来多家店铺和产品链接,标价从十元到百元不等。有店铺说能接单,1分钟左右的视频报价1500至2000元。可记者发去明星照片后,对方改口:“要有本人授权,不然打官司得赔死。没有授权我们不做。”
也有些店铺不管授权。记者提出想用AI做一条明星讲解产品的带货视频,淘宝某店铺客服说可以接,让记者加“设计老师”微信沟通需求和制作建议,称当晚能出小样,满意后再精修。
闲鱼上同样有多家类似店铺。对记者提出的上述AI盗脸视频,一家店铺客服表示能接,但先要问清有没有明星授权。“最近盗用明星肖像的都被起诉了,有法律风险。”对方又补了一句,“您只要说,出了问题跟我们制作方没关系,就可以做了。”
有闲鱼店铺明知有法律风险,仍表示:“您只要说,出了问题跟我们制作方没关系,就可以做了。”(截图)
另一家店铺客服则说,“市面上能换(脸)的我们都能做……批量制作会比较便宜,30秒视频150元。这个主要容易侵权,得多试试。”记者随后发去一条带货腮红产品的视频,要求用AI把视频里的人物换成国内某女星,并确保换脸后的视频能在抖音、快手、视频号等平台过审发布。对方回应,“能不能发出去得看平台……(加)蒙版特效之类的……就会稍微容易过审一点,因为(和本人)不一样嘛。”
记者付了40元定金,按要求发去多张照片,对方很快给出视频小样,还说视频“是一帧一帧组成的,有1200多帧,相当于做了1200多张图片,再合成为这段视频”。
这条视频时长41秒,画面里的女星和真人比较像,讲解带货某款腮红产品时声音清晰、动作相对流畅,产品讲解的内容和逻辑也完整。缺点是画面不清晰。
拿到小样后,记者问店铺客服这个视频用的是哪种AI工具,对方不回复。
接着,记者又发去两条带货视频,要求用AI分别把视频里的人换成某已故明星和国外某女星。那位已故明星演过多部影视剧,塑造的角色深入人心,很受公众喜爱;国外某女星出演过好莱坞知名电影,其反派角色让观众印象深刻。记者要求,换成已故明星的那条主要带货某款软糖,“国外某女星”那条则展示某款秋装大衣。
按视频时长,对方报价150元。
很快,上述店铺客服交付了两条视频。换成已故明星的那条带货视频,人物形象和本人相似度很高,视频只替换了人物面部,环境、产品、口播文案都和记者提供的范本一致。“国外某女星”展示秋装大衣的那条,人物除了面部,其他方面和本人只有几分相似,比如原本的金色卷发被换成了黑色直发。
记者把这次实测买到的国内女演员、已故明星、国外女明星的带货视频,发给多名受访者观看。受访者反馈,国内女演员和已故明星的AI视频相似度较高,形象辨识度强,看着比较逼真;国外女明星的AI盗脸视频,面部还能认出来,但整体画面不够协调。
该店铺客服还介绍,1分钟以内的视频大约30分钟就能完成,可以批量定制。不过批量制作得搭“工作流”,“搭工作流会更划算,我们也帮很多客户搭过换脸、换人物的工作流,效率会大大提高。”
有店铺客服表示,这类视频能够批量定制(截图)
记者实测发现,AI盗脸视频很容易就通过了多家平台的审核。
接下来,记者把前面那3条用AI做出来的盗脸明星带货视频,挨个传到抖音、小红书、快手和视频号四个平台做实测。
抖音这一环,记者传的是“国内女星”讲腮红的那条,配了段简单文案,还勾上了“内容由AI生成”标识。页面显示视频正在上传,大约8秒后跳出上传成功的提示。之后记者去看抖音账号,视频已经挂在主页上,能浏览、能点赞、能评论,还显示有了少量浏览量。
一样的流程再走一遍,只是这回不勾“内容由AI生成”标识,视频照样发布成功。
接着,记者把“国内女星”讲腮红的视频在小红书、快手、视频号上分别按勾标识和不勾标识两种方式重做测试,结果全都顺利过了平台审核。
测完之后,为了确认视频是不是真的进了平台的公域流量池,记者换别的账号去搜这个测试账号,发现视频已经传上去,也能正常查看。
记者又照同样的路子,把此前用AI盗脸某已故明星、国外某女星的带货视频,分别传到抖音、小红书、快手和视频号,结果也都过了审核。
其中,把AI盗脸某已故明星的带货视频传上小红书时,平台审核给出了提示:账号近期发布内容存在创作质量不佳的情况,比如模板化制作、频繁用同一素材发文、发布与自身或他人相似的内容等,并判定为“账号违规提醒”,处理结果是“警告”。而传AI盗脸国外某女星的带货视频时,小红书审了近十分钟,最终这条视频还是过了审核,成功发布。
为了再往深里测平台审核,记者给前述3条视频加上明星姓名或代表作相关的话题,仍以勾选和不勾选AI标识两种方式重新上传。实测下来,3条视频都能顺利发布,别的账号可以正常浏览、点赞、转发和评论。其中AI盗脸某已故明星的带货视频在小红书发布后一两分钟内,就有网友留言评论。
之后,记者挑了还原度最高的国内女演员AI带货视频,二次剪辑时还在视频里用“演员某某某”的形式标出女演员姓名,文案里也带上姓名和代表作等相关话题,分别传到前述四大视频平台,视频依旧顺利发布,其他账号能正常浏览和互动。
有一点要特别说明:这次实测只用于本次报道,测试做完后,记者第一时间把全部测试视频删除下架,并向平台举报了相关涉事店铺。
专家建议平台建肖像和声纹比对库
就这类AI盗脸带货视频,中国政法大学副教授、北京市电子商务法治研究会副会长朱巍表示,按规矩,AI生成内容该有显性和隐性两种标识:用传播平台自带AI工具做的视频,平台会强制加标识;在第三方AI平台生成后再上传的,得由制作平台在源文件里写入隐性标识,传播平台审核时才查得出来。他认为,记者实测的这些视频,制作平台可能就没按规定加隐性标识,显性标识更谈不上,“加之一些不正规平台生成的视频建模粗糙、可识别性混杂”,就这么绕过了平台审核。
未经授权拿别人的肖像、声音做AI视频,朱巍说,现行规定和司法解释都要求取得书面授权。他提出监管要往前移,AI生成工具必须做到算法备案、依规加标识,输入和输出的内容都要审核,坚持“无授权推定无权”,先拿到授权再生成。
朱巍称,深度合成、生成式人工智能管理、标识办法以及最高法相关司法解释、民法典等都已经出台,问题出在执行上。生成工具和传播平台常常是分开的,“A平台建模、B平台修复、C平台配声、D平台传播。”这种情况下的责任认定,司法实践中比较麻烦。
朱巍特别强调,“加了AI标识就能免责”是个误区。标识只是合规手段,不是抗辩事由。“前述假冒吴越的视频,即使标记AI生成,仍侵害肖像权,仍属于违规。”
那传播平台该担什么责任?朱巍介绍,按《民法典》网络侵权领域的规定,传播平台要履行“通知—删除”责任,比如吴越的案例里,吴越方向平台投诉举报后,平台得马上行动,审核、删除。这时候要是不采取必要措施,还让侵权进一步扩大,平台就要承担相应责任。
另外,平台还得加大发布者的侵权成本。朱巍表示,明星被盗脸侵权的事件背后,往往有MCN机构的影子。“据我观察,MCN机构常批量起号,同一视频由大量账号同时发布。账号出问题后,仅对单个账号禁言意义有限,应将关联账号、所有发布此类视频的账号,以及MCN机构的管理者、运营者纳入信用监管范围。”
面对盗脸明星带货,传播平台其实也一直在动手。据央广网消息,今年4月,抖音发布“AI生成不当内容及侵犯他人权益”专项治理公告,称将重点处置利用AI技术换脸、盗声等典型违规行为。今年8月,小红书发布相关公告称,AI仿冒公众人物一直是平台重点治理的对象,今年以来小红书针对AI仿冒名人的违规行为,累计处置笔记5.65万篇、账号1372个。快手和视频号今年也都有专项治理动作。
采访最后,朱巍建议,针对名人、明星被AI侵权高发的情况,平台可以建肖像、声纹比对库,把有意愿的名人、明星纳进去。他透露,此前北京有几位配音演员遭AI短剧盗声,维权时曾找他咨询筹建声纹库的事,“建好之后,只要未经授权的内容与库里的肖像、声音匹配上,就不能发布,除非拿到授权。如果建成,平台也能减轻不少审核责任”。
北京市京师(上海)律师事务所律师吴风虎分析,委托下单、投放带货的委托方,没经明星许可,擅自用侵害其肖像权的AI视频赚钱,就构成对明星肖像权的侵害;视频里要是有丑化明星形象的情形,还可能进一步侵害明星其他人格权益。委托方和视频制作者属于共同侵权,应当一起承担侵权责任。同时,委托方拿这种视频推销商品,容易让消费者产生错误认知,误以为是该明星本人代言带货,这行为涉嫌消费欺诈,要依据《消费者权益保护法》向消费者承担相应责任。另外,相关主体如果长期接单、规模化运营这类黑产,持续给诈骗团伙提供伪造视频,或是明知侵权仍持续运作、形成违法产业链,情节严重的,还可能依法承担刑事责任。