微信整治短视频虚假人设:处置1840个账号,多起AI造假带货被查封
快科技11月20日消息,微信发布“清朗·整治短视频虚假人设乱象”专项行动第3期公告,继续整治视频号中虚构身份、编造经历、恶意摆拍等问题,并公布了多起利用AI造假带货的典型案例。 接下来,微信将加强账号资质核验…
11月20日,微信发布“清朗·整治短视频虚假人设乱象”专项行动第3期公告,点名多起利用AI造假带货的典型案例,涉及视频号里虚构身份、编造经历、恶意摆拍等问题。公告披露,专项行动开展至今,平台已清理违规内容31528条,处置违规账号1840个。此次公示的多组账号,相关内容均已清理,账号也已关闭。
冒充名人带货是其中一类。有账号用AI换脸、语音合成,冒用名人的肖像和声音,打着名人旗号带货、引流。经平台核查,这些账号都没拿到授权,相关内容属于虚假冒用。
另一类是用AI数字人“卖惨”。有账号捏造悲惨身份,把要卖的商品说成帮扶任务,利用用户的同情心诱导下单。视频里那些看似需要帮助的人物、讲述的遭遇,其实都是编出来的。
还有账号拿AI数字人编家庭矛盾,假扮弱势群体做营销带货。平台核查发现,人物和对话都由剧本编造,这些账号同样已被关闭。
几类案例的造假手法各有不同:借名人身份骗取信任的,靠悲惨经历博取同情的,用家庭冲突吸引关注的,最后都落到带货和引流上。
微信表示,下一步会加强账号资质核验和内容审核,规范虚构演绎、AI生成合成内容的标识管理,同时对虚假人设类内容持续巡查。
对违规内容和账号,平台将视违规性质、情节和影响程度,采取限制传播、清空违规信息、限制账号功能、暂停更新、封禁账号等措施。
批量制造虚假人设、恶意营销牟利的账号及相关机构,会被从严处置。涉嫌违法犯罪的,平台将向有关部门报告。
微信也提醒创作者,别用虚假人设骗信任,也别靠编造剧情换流量。用户若发现冒充名人、虚构经历等违规线索,可通过平台投诉举报渠道反馈。