抖音AI恶意营销号整治:1个月处置50.7万个违规账号
IT之家 10 月 28 日消息,据抖音黑板报,AI 工具的普及,使内容创作门槛进一步降低,为广大创作者提供了更多便捷的创作方式与表达可能。然而,部分以流量变现为唯一目的的“恶意营销号”,并未将 AI 工具用于正当创作,反而将其当作起号捷径,通过批量生成、复制爆款模板快速变现,持续侵蚀平台生态根基,严重挤压优质创作者生
案例一,靠AI生成诱导互动内容来骗流量、快速起号。具体做法是用AI生成“神医送福”“迎财神”“致敬军人”这类祝福送礼内容,引诱用户点赞、评论、转发。
比如有450个账号发布这类内容,模板化痕迹很重,攒到一定流量后就想着带货变现。
还有些账号反复发AI生成的冲突类小剧场,题材集中在家庭伦理、社会矛盾这类“爽文”剧情,视频结尾常用话术引导点赞求支持;它们靠大量同质化内容、账号之间互相搬运抄袭来快速批量起号。其中807个账号因为同质化严重已被处置。
案例二,用AI仿冒公众人物蹭热度营销带货。手法是拿AI数字人、AI合成声线等技术,冒充公众人物或其亲属出镜,先编事实骗取信任,再引导带货变现。
比如有些账号用AI数字人冒充名人亲属,编出“谎称患癌、饮用某产品后痊愈”这类虚假养生案例来博取信任,视频结尾引导用户去商品橱窗下单。有1617个账号这样出镜带货,多个账号投稿内容一致、售卖产品也一致,疑似有团伙统一教学,还假称拿到“抖音综艺”授权引导用户加入机构,相关账号均已被处置。
也有账号用AI模仿名人声线配音,配上洗稿文案批量产出内容,在同一主题方向批量起号,冒充公众人物本人传播信息。比如401个账号通过AI合成公众人物声线,批量产出语录或生肖讲解内容,部分账号在卖中医相关商品,营销意图明显,相关账号已被处置。
案例三,用AI批量炮制虚假信息博取流量。做法是生成虚假画面、虚假人设或模板化谣言,拿到流量后再做营销。
有些账号批量做矩阵起号,用AI生成家电爆炸这类惊悚画面抓眼球,再引流到橱窗卖相关清洁剂。比如30个账号靠这类画面引流带货,相关账号均已被处置。
另有账号用矩阵化的新号重复投稿AI生成的虚假老龄孕妇内容,装成用户分享,实际是给试管机构引流。比如143个账号批量发布AI生成的虚假“好孕”内容,把用户引到站外试管机构,其中绝大多数是近两个月新注册的账号,相关账号均已被处置。
还有账号用AI生成模板化婚恋人设,吸到流量后转做其他变现。比如66个账号用AI生成中老年男性形象搭配告白音频,吸引中老年女性关注,相关账号均已被处置。
案例四,用AI生成恐怖迷信和猎奇内容博关注、导流牟利。做法是生成封建迷信、阴间恐怖这类猎奇内容,或者渲染迷信氛围骗取互动,再通过卖祭祀用品、引导付费测算、私域导流等方式赚钱。这类内容容易让人心理不适,还可能借机传播封建迷信、误导用户。
比如32个账号用“道人”“师兄”“先生”等古风道家昵称命名,打着民俗分享的幌子,批量发布AI生成的地府生活、亡魂归程、阴间打工、祭祀超度等迷信内容,借渲染 " 地府没钱寸步难行 " 制造用户焦虑,引导购买玉皇钱祭祀用品;另有154个账号用AI生成白狐、神兽、观音菩萨等形象,叠加音频送祝福、送财运,还靠“天堂探亲”“冥界寻亲”等由头骗取评论区互动,起号后引流到站外“提供帮看逝去亲人现状”等付费服务。平台已对相关违规账号进行处置。
案例五,借AI工具低成本复制内容、批量起号变现。这类行为不限定内容题材,而是把AI工具当成起号捷径:一款玩法在平台火了,大量营销号就跟进用AI模仿、批量起号,还沉淀出付费教学的黑灰产生态;一些流量转化路径较短的赛道,成了这类违规行为的高发区。
比如304个账号批量发布AI治愈类内容,拿情感共鸣、童年怀旧当情绪钩子吸引用户,涨粉后转向套取流量激励变现;另有732个账号打着“科普”名义,批量发布历史人物传、中药材故事、国学文化等模板化内容,为后续带货或知识付费做铺垫;有108个账号集中发民间故事题材内容,不同账号情节套路高度雷同,批量复制爆款模板;此外,296个账号用AI批量生成人物背景、对话脚本、售卖商品高度相似的带货视频。相关账号均已被处置。