抖音AI恶意营销号整治:1个月处置50.7万个违规账号

资讯 AI 行业观察 全文 1678 字 · 约 5 分钟读完 分类字节跳动广告营销AI 产品

IT之家 10 月 28 日消息,据抖音黑板报,AI 工具的普及,使内容创作门槛进一步降低,为广大创作者提供了更多便捷的创作方式与表达可能。然而,部分以流量变现为唯一目的的“恶意营销号”,并未将 AI 工具用于正当创作,反而将其当作起号捷径,通过批量生成、复制爆款模板快速变现,持续侵蚀平台生态根基,严重挤压优质创作者生

所属频道 大厂动态产品更新行业落地

案例一,靠AI生成诱导互动内容来骗流量、快速起号。具体做法是用AI生成“神医送福”“迎财神”“致敬军人”这类祝福送礼内容,引诱用户点赞、评论、转发。

比如有450个账号发布这类内容,模板化痕迹很重,攒到一定流量后就想着带货变现。

还有些账号反复发AI生成的冲突类小剧场,题材集中在家庭伦理、社会矛盾这类“爽文”剧情,视频结尾常用话术引导点赞求支持;它们靠大量同质化内容、账号之间互相搬运抄袭来快速批量起号。其中807个账号因为同质化严重已被处置。

案例二,用AI仿冒公众人物蹭热度营销带货。手法是拿AI数字人、AI合成声线等技术,冒充公众人物或其亲属出镜,先编事实骗取信任,再引导带货变现。

比如有些账号用AI数字人冒充名人亲属,编出“谎称患癌、饮用某产品后痊愈”这类虚假养生案例来博取信任,视频结尾引导用户去商品橱窗下单。有1617个账号这样出镜带货,多个账号投稿内容一致、售卖产品也一致,疑似有团伙统一教学,还假称拿到“抖音综艺”授权引导用户加入机构,相关账号均已被处置。

也有账号用AI模仿名人声线配音,配上洗稿文案批量产出内容,在同一主题方向批量起号,冒充公众人物本人传播信息。比如401个账号通过AI合成公众人物声线,批量产出语录或生肖讲解内容,部分账号在卖中医相关商品,营销意图明显,相关账号已被处置。

案例三,用AI批量炮制虚假信息博取流量。做法是生成虚假画面、虚假人设或模板化谣言,拿到流量后再做营销。

有些账号批量做矩阵起号,用AI生成家电爆炸这类惊悚画面抓眼球,再引流到橱窗卖相关清洁剂。比如30个账号靠这类画面引流带货,相关账号均已被处置。

另有账号用矩阵化的新号重复投稿AI生成的虚假老龄孕妇内容,装成用户分享,实际是给试管机构引流。比如143个账号批量发布AI生成的虚假“好孕”内容,把用户引到站外试管机构,其中绝大多数是近两个月新注册的账号,相关账号均已被处置。

还有账号用AI生成模板化婚恋人设,吸到流量后转做其他变现。比如66个账号用AI生成中老年男性形象搭配告白音频,吸引中老年女性关注,相关账号均已被处置。

案例四,用AI生成恐怖迷信和猎奇内容博关注、导流牟利。做法是生成封建迷信、阴间恐怖这类猎奇内容,或者渲染迷信氛围骗取互动,再通过卖祭祀用品、引导付费测算、私域导流等方式赚钱。这类内容容易让人心理不适,还可能借机传播封建迷信、误导用户。

比如32个账号用“道人”“师兄”“先生”等古风道家昵称命名,打着民俗分享的幌子,批量发布AI生成的地府生活、亡魂归程、阴间打工、祭祀超度等迷信内容,借渲染 " 地府没钱寸步难行 " 制造用户焦虑,引导购买玉皇钱祭祀用品;另有154个账号用AI生成白狐、神兽、观音菩萨等形象,叠加音频送祝福、送财运,还靠“天堂探亲”“冥界寻亲”等由头骗取评论区互动,起号后引流到站外“提供帮看逝去亲人现状”等付费服务。平台已对相关违规账号进行处置。

案例五,借AI工具低成本复制内容、批量起号变现。这类行为不限定内容题材,而是把AI工具当成起号捷径:一款玩法在平台火了,大量营销号就跟进用AI模仿、批量起号,还沉淀出付费教学的黑灰产生态;一些流量转化路径较短的赛道,成了这类违规行为的高发区。

比如304个账号批量发布AI治愈类内容,拿情感共鸣、童年怀旧当情绪钩子吸引用户,涨粉后转向套取流量激励变现;另有732个账号打着“科普”名义,批量发布历史人物传、中药材故事、国学文化等模板化内容,为后续带货或知识付费做铺垫;有108个账号集中发民间故事题材内容,不同账号情节套路高度雷同,批量复制爆款模板;此外,296个账号用AI批量生成人物背景、对话脚本、售卖商品高度相似的带货视频。相关账号均已被处置。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 抖音处置AI恶意营销号:近一月封禁50.7万个违规账号

    抖音公布五类 AI 恶意营销典型案例,包括 AI 生成诱导互动内容、AI 仿冒公众人物带货、AI 批量炮制虚假信息、AI 生成迷信猎奇内容引流、低成本复制内容批量起号。近一个月已处置违规短视频 113.5 万条。##抖音治理AI恶意营销## ##AI内容创作规范##

    来源 IT之家
  2. 抖音治理AI恶意营销:一月处置违规账号50.7万个

    抖音10月28日发布关于治理恶意营销号滥用AI的公告。近期,平台监测发现,部分恶意营销号通过AI工具快速扩大恶意营销内容的规模,不仅在内容形式与传播手法上带来新挑战,部分账号背后还存在教学黑产组织运营,违规手段迭代快、隐蔽性强。目前来看,AI恶意营销号主要存在三类问题:内容层面表现为低成本同质化、工业化量产;...

    来源 腾讯网
  3. 豆包SAEP拒绝名单:155款应用关闭AI操作

    手机 AI 助手能不能操作某款应用、能操作到哪一步,基本由 AI 厂商单方面技术适配决定,应用方没有正式的表态渠道,大多通过风控策略默默拦截;用户则始终面对模糊的功能边界,不知道为什么有的应用能用 AI 操…

    来源 搜狐科技
  4. DeepSeek-Reasonix 桌面版实测:零配置上手,缓存命中率 94% 省下大笔 AI 开销

    DeepSeek-Reasonix 原本是终端里的 AI 编码代理,现在出了 Tauri 桌面版,不用装 Node 环境,下载就能用。这篇文章聊聊它到底解决了什么问题:针对 DeepSeek 模型的字节稳定前缀缓存设计,长期会话缓存命中率能到 94%,未缓存令牌和缓存后令牌价格差 5 倍,长期写项目成本能压到普通 AI

    来源 AI 应用前沿
  5. 蒋冠军:千问个人AI智能体靠模型记忆生态三要素

    阿里千问 AI 算法负责人蒋冠军在 2026 中国计算机大会上分享了个人 AI 智能体的技术实践。他将 AI 应用分为对话、代理、助理三阶段,指出当前正迈向助理阶段。个人智能体需模型、记忆、生态三要素协同,其中模型覆盖 30 多个行业、8000 多项能力,记忆则需避免噪声积累。#阿里千问# #AI智能体#

    来源 IT之家
  6. Anthropic招聘取消编程题:面试考的是AI不是人

    与其等待完整的产品需求文档、跨部门审批或设计师与产品经理的资源支持,不如瞄准具体业务目标,利用新人视角和 AI 工具,在一个周末做出一个可运行的单点原型,用成果争取组织支持。

    来源 凤凰科技
  7. 京东双11亮出服务牌:三年低价战之后转向

    (文/张志峰 编辑/吕栋)10月15日下午,京东与阿里旗下淘宝天猫双11同步开启,一个在北京,一个在上海,隔空对阵。抖音电商与拼多多等平台,也都默默启动双11营销,各有各的打法。京东方面的动作主要是两重。一边继续打低价牌,尝试撬动竞对腹地。采销上直播间跟全网连麦比价,赢了送金豆和iPhone;全品类首推“多买多返”..

    来源 腾讯网
  8. 嗖付科技拿下3.6亿元天使轮,千悦客服加码AI研发

    近日,成都嗖付科技有限公司正式宣布完成 3.6 亿元人民币天使轮融资。本轮融资由金浦投资领投,复兴资本跟投,相关工商变更手续正在依规有序办理中。所募资…将重点投入旗下全渠道智能在线客服系统 “千悦客服” 的技术研发与市场拓展,涵盖底层 AI 大模型调优、多源异构数据接入引擎迭代、高并发多端协同工作台升级三大方向。 破解

    来源 AI 行业观察
  9. 豆包手机降价700元:AI智能体为何打不开老年市场

    “第三方软件几乎都不能通过语音自动使用,连最简单的打开哔哩哔哩网站搜索功能都不行。” 一位在京东购买了豆包手机的用户,在努比亚官方旗舰店留下这样的一条评论。 上个月,豆包二代手机发布,这其实算得上是努比亚真正面向消费者的首款AI智能体手机,因为豆包一代手机还是停留在“技术预览版”的层面。 在豆包手机发布前夕,二手平台上

    来源 AI 行业观察
  10. 火山引擎推 Seedance AI 剧激励:单部最高20万,TOP50可入围

    IT之家 10 月 19 日消息,字节跳动旗下火山引擎发起精品 AI 剧激励计划,面向使用 Seedance 制作并在红果短剧 App 上线的精品 AI 漫短剧提供激励。 IT之家注意到,公告显示,符合条件的 AI 剧按红果热度值进行月度排名,进入当月 AI 剧 TOP50 并通过审核后,可获相应激励;其中月度排名前

    来源 AI 行业观察
  11. 小云雀并入即梦:字节AI创作平台资源整合

    文|邓咏仪 编辑|张雨忻 《智能涌现》从知情人士处获悉,近期剪映内部完成了一次业务整合,AI短剧创作平台小云雀并入智能创作平台即梦,产品仍保留独立入口。 我们了解到,此次调整主要是资源整合,目前即梦已经接入了小云雀短剧相关能力。调整后,小云雀的运营由即梦运营和市场负责人陈欣然负责,产品团队没有变化。 剪映...

    来源 腾讯网
  12. 即梦AI上线短剧工作室:自研DreamScript等三大模型

    即梦短剧工作室提供 DreamScript 剧本模型、Anycook 图片模型和 DreamShot 分镜模型,覆盖原创改编出海解说等题材,支持 10 万字长篇解析、差异化人物设定、3D 导演台预演,以及片段重拍、声音重构、智能切镜等后期能力,并支持原片重制转绘与本地化适配。#AI短剧创作#

    来源 IT之家
  13. AI短剧一年:成本降六成,爆款率为何只剩0.47%

    图片由AI生成“制作已经没有任何意义了。”在近期举办的2026阅文创作大会结束后的交流环节,黄浩南发出如此感叹。而最近让他这种感受更强烈的一件事,是他发现一个初三女生在校用豆包做了一个AI短视频,瞬间收获300万点赞。这在很多短剧公司看来,是烧光几百万甚至上千万元,都可能难以实现的成绩。黄浩南是酱油文化创始人...

    来源 腾讯网
  14. 出版商押注AI智能体受众:机器定制内容能收费吗?

    随着AI智能体从工具走向主流,媒体行业出现一个耐人寻味的新趋势:出版商开始把智能体视为独立受众,尝试为其量身定制内容并收费。这背后是智能体流量激增、传统广告模式承压、内容授权谈判胶着的现实。支持者认为这是内容价值的新出口,质疑者则担心版权失控与“为机器写作”损害新闻品质。一场关于“谁为内容付费”的规则重写,正在悄然展开

    来源 AI 科技快讯
  15. 豆包上线虚拟桌面:AI后台操作Windows,不抢鼠标键盘

    10月28日,豆包宣布工作场景电脑操作能力升级,推出“豆包虚拟桌面”。该功能基于GUI能力,AI可查看屏幕、模拟鼠标点击和键盘输入,独立完成跨软件任务,无需接入API或插件,且不打断用户当前工作。

    来源 凤凰科技
  16. 即梦AI推短剧工作室:DreamScript模型支持100集连续生成

    10月26日,即梦AI正式上线全新功能“短剧工作室”。作为一款面向短剧创作场景推出的一站式AI工具,它将剧本整理、角色与场景管理、分镜生成、视频制作及后期调整等全流程深度整合到同一个平台中,彻底告别了以往创作者需要在多个平台之间来回切换的繁琐体验。据悉,该工作室的部分功能还整合了小云雀短剧Agent的同款能力,旨在帮助

    来源 AI 开发者社区
  17. Liquid AI推出LFM3家族:6款模型基于1.7B-Base

    IT之家 10 月 28 日消息,人工智能实验室 Liquid AI 当地时间 27 日发布了 LFM3 模型家族。其基于全新的三混合层架构,在 22T 词元上预训练而成,在保持高效的同时具备更为出色的表现。 LFM3 的首批产品包括 LFM-1.7B(文本)、LFM3-VL-2B(视觉)、d1-2B(决策)、LFM3

    来源 AI 行业观察
  18. 库克:AI 应用爆发式增长,质检等供应链环节已深度依赖机器学习

    IT之家 10 月 16 日消息,据财联社报道,在今日举办的全球财富管理论坛 2026 上海苏河湾大会上,苹果公司执行董事长、清华大学经管学院顾问委员会主席蒂姆 · 库克(Tim Cook)指出,人工智能应用正迎来爆发式增长。 当前,AI 辅助编程显著降低了编程门槛,使此前几乎未接触过代码的人群也能够编写代码。与此同时

    来源 AI 行业观察
  19. 豆包刘星回应横店合作传言:15万群演数据喂大模型不实

    IT之家 10 月 28 日消息,豆包公关负责人刘星今日发文称,“横店与字节合作,将 15 万名群演的肖像和声音喂给字节大模型”的传言严重失实。 他表示,横店影视 AI 服务平台项目,其实是希望建设一套公共数字基础设施,把影视基地实景等资产做成高质量数据集,帮助剧组更高效地选景、筹备和拍摄,也降低中小影视企业使用 AI

    来源 AI 行业观察
  20. 美国银行发邮件提醒客户:网银密码别交给AI助手

    美银向客户发送《AI 时代的财务保护》邮件,明确警示不要向 AI 智能体等外部服务分享网银用户名和密码,否则产生的责任将由客户自行承担。多家美国大行已发现未经批准的第三方 AI 访问客户网银,摩根士丹利开始屏蔽,摩根大通和花旗也在收紧权限。##AI安全## ##网银安全##

    来源 IT之家
向下滚动自动加载更多