编者按：当AI工具的外衣下藏着犯罪工具，内容治理与平台责任再次被推到风口浪尖。一项最新调查显示，AI应用生态中潜藏的阴暗面，远比外界想象的更普遍、更隐蔽。
据WIRED报道，研究人员发现了约400个看似普通的AI应用和网站，它们表面上提供常见的AI图像生成、视频创作等服务，实则暗藏能够生成性虐待深度伪造内容的功能。这些平台大多与中国开发者相关联，用户无需特殊技术背景，即可通过隐藏入口调用暴力、色情化的生成能力。
披着“日常工具”外衣的隐秘功能
报道指出，这些应用和网站的外观与市面上流行的AI创作工具并无明显差异——简洁的界面、常规的模板、普通的功能按钮，甚至部分产品还配有看似正规的隐私政策与用户协议。然而，在这些“正常”表象之下，开发者设置了只有知情用户才能触发的隐藏路径，使其能够生成带有性暴力色彩的图像与视频。这种“双层设计”让应用得以在应用商店和公开网络上长期存在，同时规避常规内容审核。
更值得警惕的是，这类功能的门槛正在被不断拉低。过去，制作深度伪造内容需要一定的技术能力与算力资源；而如今，只需在特定应用中输入几行提示词，普通人就能在几分钟内生成高度逼真的伪造影像。技术民主化的另一面，正是滥用成本的急剧下降。
深度伪造滥用：从技术奇观到犯罪工具
深度伪造技术自诞生以来，经历了从学术演示到娱乐应用的快速演变。早期，它被视为影视特效和创意表达的新工具；但近年来，其滥用案例呈爆发式增长。从政治人物的虚假演讲，到普通女性的色情化伪造影像，深度伪造正在成为网络骚扰、敲诈勒索和人格侮辱的“标配武器”。
在这条灰色产业链上，应用开发者、推广渠道与最终用户形成了隐秘的分工。部分开发者以“普通AI工具”为掩护，通过社交平台和私密社群定向推广隐藏功能；推广者则利用暗语、缩略图和邀请码规避平台审查；而最终用户中，不乏试图以此牟利或实施报复的恶意行为者。整个链条分散、隐蔽，给监管和取证带来极大困难。
“技术的双刃剑效应在生成式AI时代被放大到极致。当生成能力变得唾手可得，受害者往往在影像被传播后才意识到自己已成为目标。”——业内安全研究者观点
监管的灰色地带与平台责任
这类应用的棘手之处在于，它们往往游走在法律与平台规则的缝隙之间。一方面，应用本身可能并未直接展示违规内容，隐藏功能需要特定操作才能触发，这给应用商店的静态审核机制出了难题；另一方面，开发者常将服务器和运营主体设在监管相对薄弱的地区，增加了跨境执法的复杂度。
平台的责任边界同样模糊。应用商店通常依赖关键词和图像识别进行初审，但面对“表里不一”的双层应用，传统审核手段显得力不从心。有安全专家呼吁，平台应加强对应用行为的动态监测，而非仅依赖上架时的一次性审查；同时，应建立更快速的举报响应机制，让受害者和研究者能够及时报告可疑应用。
受害者困境与法律追责难题
对于受害者而言，这类深度伪造内容的伤害往往是毁灭性的。影像一旦流出，便可能在多个平台间快速复制传播，删除速度永远赶不上扩散速度。而追责之路却困难重重：用户身份难以追踪、开发者主体隐匿、跨境司法协作周期漫长，许多受害者最终只能选择沉默。
法律层面，各国对深度伪造的规制仍处于探索阶段。部分国家已将未经同意的性化深度伪造纳入刑事打击范围，但执法实践中的取证、管辖和量刑标准尚不统一。业内人士指出，治理这一问题需要技术手段、平台自律与法律规制三管齐下，任何单一环节的缺位都可能让灰色应用卷土重来。
此次WIRED的调查，无疑为AI应用生态敲响了警钟。当“普通工具”成为犯罪入口，行业需要回答的不仅是如何识别和清除这些应用，更是如何在技术快速迭代的背景下，建立一套可持续的内容安全防线。
