AI泔水正混进科普内容:双头虾配图与万张鸟类贴纸引担忧
AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。 打开网易新闻 查看精彩图片 出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻 近日,中国农业出版社出版的《南海海洋生物科普丛书
AI泔水(AI Slop)正在侵蚀人类的知识世界。这个说法2025年入选《韦氏字典》年度词汇,指的是由人工智能批量生产、质量低劣的数字内容。
出现双头虾的《南海海洋生物科普丛书》,绝大多数图片都由AI绘图工具生成。图片来源:澎湃新闻
中国农业出版社出版的《南海海洋生物科普丛书》近日惹出争议,原因是配图里出现了违背常识的“双头虾”,出版社回应称正在通知下架并召回。界面新闻从知情人士处了解到,这张图本意是表现斑节对虾蜕壳,但AI技术用得不够成熟,效果走了样。
一只虾多出一个头,谁都知道不对劲。可要是蜂鸟被画上了麻雀那样的长腿,能看出来的人又有多少?
差不多同一时间,一位独立开发者用AI做了一套贴纸,覆盖全球11064种鸟类,写实风格,免费开源还允许商用,结果招来观鸟社群的批评。有科普博主说,AI很可能把鸟类的关键特征画错,这类写实图片要是被拿去做识鸟和自然教育,反倒会传播错误知识,把数据搅浑。
图片来源:小红书
面对批评,开发者有点委屈:贴纸只是插画,替代不了专业图鉴。他为生成和审核投入了超过10亿Token,还让AI去评审这些AI贴纸的准确性,打出的准确分也留着,让使用者自己判断。
可看似无害的开源插画,一旦进入互联网的内容流通体系,影响就可能超出创作者的预期。一万张鸟类贴纸不光可能被人当成知识传下去,还可能在反复引用、二次创作乃至AI训练中,变成下一轮内容生产的素材。AI造出的错误又成了AI学习和生成的依据,细微的失真就会被一遍遍复制、放大。
“双头虾”未必就是这一过程的产物,但它让这种风险有了更直观的注脚。两件事性质不同,却指向同一个问题:AI已经能大规模生产看起来逼真的知识性内容,我们有没有能力为它们的准确性负责?
AI生成文章占比过半,去伪存真更难了
AI内容的生产速度,已经快到足以改变互联网的内容结构。
一个重要的拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,用多种工具识别其创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。
不过,AI生成的内容并不代表质量就差。插画、动画和视觉呈现这些环节原本很费人力,AI能把它们的门槛压低,科普创作也因此更容易上手。
但效率的另一面,是验证成本。产能上去了,验证真伪的能力,不论是普通人还是工具,都未必跟得上。
鸟类贴纸这个项目里,开发者先把真实的鸟类照片交给AI做成贴纸,再让另一套AI去审核。他注意到,AI会把虹膜颜色画错,有时甚至给蜂鸟配上像麻雀那样的长腿。
鸟画得像,不等于每种鸟都画得对。观鸟爱好者靠什么认物种?恰恰是那些被AI弄错的细节。科普的准确性底线,也在这里。
“AI泔水”正大肆进入科普领域
AI内容的质量问题,在科普领域尤其值得警惕。
2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中,57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。
原本承担严谨知识传播功能的内容类别,正在成为“AI泔水”的聚集地。
再往深看,问题出在两头:科普要的是准确,流量竞争盯的却是注意力。AI会幻觉,会编事实、混概念;可批量生产内容的流量生意里,创作者未必肯为每条内容搭上专业审核的时间和成本。
眼下AI已能大批量产出看着挺像真的知识性内容,想把它挡在内容生产之外,几乎办不到。可这种不准确带来的误导和知识污染,我们其实还没真正解决。
当错误经过反复传播,还可能变成广为接受的“知识”。
2008年,一名17岁的美国少年在维基百科中给长鼻浣熊(coati)编造了一个名称——“巴西土豚”(Brazilian aardvark)。
起初只是恶作剧,后来被多家媒体转载,还进了芝加哥大学出版社出的书。更离谱的是,维基百科又拿一篇转载了这条错误信息的新闻报道当引用,等于给这个错误补上了“证据”。
这个错误延续多年,直到2014年才被《纽约客》揭穿。
一个原本不存在、凭空编出来的名字,传着传着就有了“权威出处”,再拿这个出处回头印证自己是真的。
2024年《Nature》刊载的一项研究提到,在特定的递归训练条件下,模型不断学习上一代AI产出的数据,会出现“模型坍塌”:原始数据里那些少见的信息一点点丢掉,生成的内容离原始数据越来越远。那么,AI参与知识生产,边界到底该划在哪儿?
北京印刷学院出版学院教授叶文芳在“双头虾”事件后接受采访时给出了三个前提:标识可识别、内容可核验、责任可追溯。
她的看法是,装饰性、示意性或虚构场景再现这类用途,用经过核验的AI插图没问题;可到了物种形态、实验装置、医学图示这些准确性要害的地方,没有领域专家审查就不能拿来定稿。
国际学术界的讨论也持类似立场。2025年《Ethics and Information Technology》发表的一项研究就认为,判断AI生成的科学插图,标准不该简单落在“用没用AI”上,而要看图像拿去做什么、错在哪儿、可能带来什么后果。
用来烘托气氛的鸟类插画,画得艺术化一些无妨;一旦拿来教人认物种,喙长什么样、虹膜什么颜色,就容不得随意发挥。
科普领域用AI,因此不能只盯着“有没有标注”。中国科协2026年发布的《科技工作者科普创作指南》一方面明确鼓励用AI辅助文本创作,另一方面要求专业人员全程把关,对科学原理、引用和事实严格审核。
AI能把知识表达的成本压下来,但知识成立所依据的证据标准,它压不下来。
从“双头虾”到一万张鸟类贴纸,争论的焦点其实不在用没用AI,而在AI生成的内容出了事,谁来担责。
澎湃新闻记者陈良贤对本文亦有贡献