AI泔水入侵科普:南海双头虾与万张鸟类贴纸暴露知识污染风险
AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双...
「AI泔水」(AI Slop)这个词在2025年进入《韦氏字典》年度词汇,指的就是人工智能大批量产出、质量低劣的数字内容。如今它正在侵蚀人类的知识世界。
中国农业出版社出版的《南海海洋生物科普丛书》近日惹出争议,原因是配图里出现了违背常识的「双头虾」。出版社回应称,正在通知下架并召回。知情人士对界面新闻表示,那张图原本想表现斑节对虾蜕壳,但AI技术用得不够成熟,效果失真了。澎湃新闻的报道显示,这套丛书绝大多数图片都由AI绘图工具生成。
一只虾凭空多长出一个头,谁都能看出不对劲。可要是蜂鸟被画上麻雀那样的长腿,又能有多少人分辨得出来?
差不多同一时间,一位独立开发者用AI做了覆盖全球11064种鸟类的贴纸,写实风格,免费开源还允许商用。结果观鸟社群并不买账。有科普博主指出,AI很可能把鸟类的关键特征画错,这类写实图片一旦被拿来识鸟、做自然教育,反倒会传播错误知识,造成数据污染。
图片来源:小红书
面对批评,开发者觉得自己有点委屈:这些贴纸只是插画,替代不了专业图鉴。他为此投入了超过10亿Token用于生成和审核,又让AI去评审这批AI贴纸准不准。AI打出的准确分,他也留着,让使用者自己判断。
不过,看似无害的开源插画,一旦进入互联网的内容流通体系,影响就可能超出创作者的预期。一万张鸟类贴纸不只可能被人当成知识传播,还可能在反复引用、二次创作乃至AI训练中,变成下一轮内容生产的素材。AI造出的错误再被AI拿去学习和生成,细微的失真就会被一遍遍复制、放大。
「双头虾」未必就是这条链条的产物,但它让这种风险有了更直观的注脚。两件事性质不同,指向的却是同一个问题:AI已经能大规模生产看起来逼真的知识性内容,我们有没有能力为它们的准确性负责?
AI生成文章占比过半,去伪存真更难了
AI内容的生产速度,已经快到足以改变互联网的内容结构。
拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取了约5.54万篇英文文章,用多种工具识别它们的创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章的占比快速攀升,2025年起与人类创作基本持平。
需要说明的是,AI生成内容并不等于低质内容。AI能降低科普创作的门槛,原本要耗费大量人力的插画、动画和视觉呈现,做起来更容易了。
但效率的另一面是验证成本。产能上去了,验证真伪的能力,不管是普通人还是工具,都未必跟得上。
在鸟类贴纸这个项目里,开发者把真实鸟类照片交给AI生成贴纸,再用另一套AI来审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。
AI能把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的那些细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普准确性的底线。
「AI泔水」正大肆进入科普领域
AI内容的质量问题,在科普领域尤其值得警惕。
2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。
原本承担严谨知识传播功能的内容类别,正在成为「AI泔水」的聚集地。
问题还有更深的一层:科普讲究的是内容准确,流量竞争盯的却是眼球。AI 会出幻觉,捏造事实、把概念搅混,可到了批量出货的流量买卖里,创作者不一定肯为每条内容搭上专业审核的时间和成本。
AI已经可以大规模生产看起来逼真的知识性内容,想把它隔离在内容生产领域之外已近乎不可能,可这种不准确带来的内容误导与知识污染,我们其实还没真正解决。
错误经过反复传播,还可能变成广为接受的「知识」。
2008年,一名17岁的美国少年在维基百科上给长鼻浣熊(coati)编了个名字——「巴西土豚」(Brazilian aardvark)。
本来只是个恶作剧,却被多家媒体转载,甚至进了芝加哥大学出版社出版的书籍。更荒诞的是,维基百科后来又引用了一篇转载这条错误信息的新闻报道,给这个错误提供了「证据」。
这个错误一直拖到2014年,才由《纽约客》揭穿。
一个无中生有的名称,传着传着就有了“权威出处”,随后又拿这个出处证明自己确有其事。
2024年《Nature》刊登的一项研究提到,在特定的递归训练条件下,模型不断学习上一代AI生成的数据,可能出现“模型坍塌”:原始数据里少见的信息一点点消失,输出结果也越来越偏离原始数据。
知识生产这件事,AI到底该介入到什么程度?
“双头虾”事件之后,北京印刷学院出版学院教授叶文芳在接受采访时谈到,AI辅助出版得满足三个前提:标识可识别、内容可核验、责任可追溯。
她的看法是,装饰性、示意性或虚构场景的再现,可以用经过核验的AI插图;可到了物种形态、实验装置、医学图示这些准确性要紧的地方,没有领域专家审查,就不能拿去定稿。
国际上学术界的讨论,跟这个判断差不多是一回事。
2025年《Ethics and Information Technology》上的一项研究就提出,判断AI生成的科学插图,标准不该简单落在用没用AI上,要看图像传播的目的、错误的性质,以及可能带来什么后果。
一张用来烘托气氛的鸟类插画,艺术化一点没关系;但要拿来教人认物种,喙长什么样、虹膜什么颜色,就由不得随意发挥了。
科普用AI,所以不能只盯着“有没有标注”。中国科协2026年发布的《科技工作者科普创作指南》已经明确鼓励用AI辅助文本创作,同时也要求专业人员全程把关,对科学原理、引用和事实严格审核。
AI能把知识表达的成本降下来,知识成立的证据标准却降不了。
从“双头虾”到万张鸟贴纸,争的其实不是用没用AI,而是AI生成的内容由谁来负责。
澎湃新闻记者陈良贤对本文亦有贡献