AI泔水入侵科普:南海双头虾与万张鸟类贴纸暴露知识污染风险

资讯 腾讯网 作者:澎湃新闻 全文 2373 字 · 约 6 分钟读完

AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双...

「AI泔水」(AI Slop)这个词在2025年进入《韦氏字典》年度词汇,指的就是人工智能大批量产出、质量低劣的数字内容。如今它正在侵蚀人类的知识世界。

中国农业出版社出版的《南海海洋生物科普丛书》近日惹出争议,原因是配图里出现了违背常识的「双头虾」。出版社回应称,正在通知下架并召回。知情人士对界面新闻表示,那张图原本想表现斑节对虾蜕壳,但AI技术用得不够成熟,效果失真了。澎湃新闻的报道显示,这套丛书绝大多数图片都由AI绘图工具生成。

一只虾凭空多长出一个头,谁都能看出不对劲。可要是蜂鸟被画上麻雀那样的长腿,又能有多少人分辨得出来?

差不多同一时间,一位独立开发者用AI做了覆盖全球11064种鸟类的贴纸,写实风格,免费开源还允许商用。结果观鸟社群并不买账。有科普博主指出,AI很可能把鸟类的关键特征画错,这类写实图片一旦被拿来识鸟、做自然教育,反倒会传播错误知识,造成数据污染。

图片来源:小红书

面对批评,开发者觉得自己有点委屈:这些贴纸只是插画,替代不了专业图鉴。他为此投入了超过10亿Token用于生成和审核,又让AI去评审这批AI贴纸准不准。AI打出的准确分,他也留着,让使用者自己判断。

不过,看似无害的开源插画,一旦进入互联网的内容流通体系,影响就可能超出创作者的预期。一万张鸟类贴纸不只可能被人当成知识传播,还可能在反复引用、二次创作乃至AI训练中,变成下一轮内容生产的素材。AI造出的错误再被AI拿去学习和生成,细微的失真就会被一遍遍复制、放大。

「双头虾」未必就是这条链条的产物,但它让这种风险有了更直观的注脚。两件事性质不同,指向的却是同一个问题:AI已经能大规模生产看起来逼真的知识性内容,我们有没有能力为它们的准确性负责?

AI生成文章占比过半,去伪存真更难了

AI内容的生产速度,已经快到足以改变互联网的内容结构。

拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取了约5.54万篇英文文章,用多种工具识别它们的创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章的占比快速攀升,2025年起与人类创作基本持平。

需要说明的是,AI生成内容并不等于低质内容。AI能降低科普创作的门槛,原本要耗费大量人力的插画、动画和视觉呈现,做起来更容易了。

但效率的另一面是验证成本。产能上去了,验证真伪的能力,不管是普通人还是工具,都未必跟得上。

在鸟类贴纸这个项目里,开发者把真实鸟类照片交给AI生成贴纸,再用另一套AI来审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。

AI能把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的那些细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普准确性的底线。

「AI泔水」正大肆进入科普领域

AI内容的质量问题,在科普领域尤其值得警惕。

2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。

原本承担严谨知识传播功能的内容类别,正在成为「AI泔水」的聚集地。

问题还有更深的一层:科普讲究的是内容准确,流量竞争盯的却是眼球。AI 会出幻觉,捏造事实、把概念搅混,可到了批量出货的流量买卖里,创作者不一定肯为每条内容搭上专业审核的时间和成本。

AI已经可以大规模生产看起来逼真的知识性内容,想把它隔离在内容生产领域之外已近乎不可能,可这种不准确带来的内容误导与知识污染,我们其实还没真正解决。

错误经过反复传播,还可能变成广为接受的「知识」。

2008年,一名17岁的美国少年在维基百科上给长鼻浣熊(coati)编了个名字——「巴西土豚」(Brazilian aardvark)。

本来只是个恶作剧,却被多家媒体转载,甚至进了芝加哥大学出版社出版的书籍。更荒诞的是,维基百科后来又引用了一篇转载这条错误信息的新闻报道,给这个错误提供了「证据」。

这个错误一直拖到2014年,才由《纽约客》揭穿。

一个无中生有的名称,传着传着就有了“权威出处”,随后又拿这个出处证明自己确有其事。

2024年《Nature》刊登的一项研究提到,在特定的递归训练条件下,模型不断学习上一代AI生成的数据,可能出现“模型坍塌”:原始数据里少见的信息一点点消失,输出结果也越来越偏离原始数据。

知识生产这件事,AI到底该介入到什么程度?

“双头虾”事件之后,北京印刷学院出版学院教授叶文芳在接受采访时谈到,AI辅助出版得满足三个前提:标识可识别、内容可核验、责任可追溯。

她的看法是,装饰性、示意性或虚构场景的再现,可以用经过核验的AI插图;可到了物种形态、实验装置、医学图示这些准确性要紧的地方,没有领域专家审查,就不能拿去定稿。

国际上学术界的讨论,跟这个判断差不多是一回事。

2025年《Ethics and Information Technology》上的一项研究就提出,判断AI生成的科学插图,标准不该简单落在用没用AI上,要看图像传播的目的、错误的性质,以及可能带来什么后果。

一张用来烘托气氛的鸟类插画,艺术化一点没关系;但要拿来教人认物种,喙长什么样、虹膜什么颜色,就由不得随意发挥了。

科普用AI,所以不能只盯着“有没有标注”。中国科协2026年发布的《科技工作者科普创作指南》已经明确鼓励用AI辅助文本创作,同时也要求专业人员全程把关,对科学原理、引用和事实严格审核。

AI能把知识表达的成本降下来,知识成立的证据标准却降不了。

从“双头虾”到万张鸟贴纸,争的其实不是用没用AI,而是AI生成的内容由谁来负责。

澎湃新闻记者陈良贤对本文亦有贡献

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 剑桥词典2026年度词为何是"human":AI逼人重新定义自己

    一句话读懂剑桥词典11月17日宣布,“human”(人类)当选2026年度词汇,理由是人工智能模糊了人与机器的界限,全球围绕人类身份和人机关系的讨论日益升温。为什么重要剑桥词典把“human”定义为“具有人类所具有的品质、缺点和情感,而不是神、动物或机器”。词典编纂者科林·麦金托什说,人工智能正在改变人们谈论“人类”的

    来源 腾讯网
  2. MaLoW:把历史装进模型参数,流式视频AI记住半小时前的事

    你有没有试过一边看直播一边回忆十分钟前主播说过的某句话?大脑不会把那十分钟的画面全部倒带重播,而是留下一个模糊但够用的印象,等你需要的时候,它自己会冒出来。现在想象让一个AI做同样的事情。它要一边盯着摄像头传来的实时画面回答你的问题,一边记得半小时前发生过什么。这听起来似乎不难,但工程上藏着一个让所有...

    来源 腾讯网
  3. 52.2%受访者为AI掏过钱:90后比例更高,一线城市更愿付费

    当越来越多年轻人把AI当作工作与生活的助手,为它花钱已从新鲜事变成了日常消费。上周,中国青年报社社会调查中心联合问卷网(wenjuan.com)发布的一项1334名受访者参与的调查显示,超半数(52.2%)受访者表示为AI花过钱,知识处理(59.1%)、多媒体创作(53.3%)、办公学习(44.1%)是受访者常用AI做

    来源 腾讯网
  4. Snowflake Business Ontology:AI 时代如何统一业务口径?

    11 月 3 日,Snowflake 宣布推出 Business Ontology ,即将开启公开预览。它提供了一种受治理的方式,支持团队定义、归属、审批共用业务术语、实体、关联关系与指标,并将其映射至承载这些定义的数据和模型。

    来源 InfoQ
  5. 始终将水瓶、文件夹误认为枪支,美国一高中停用 AI 武器探测系统

    IT之家 11 月 18 日消息,据外媒 TechSpot 今天(18 日)晚间报道,因屡次将普通物品误判为潜在威胁,美国宾夕法尼亚州亨普菲尔德地区高中最终决定停用 AI 武器探测系统。 该校高中是当地参与 Wi-AI 系统训练的多所学校之一。该系统由卡内基梅隆大学衍生企业 CurvePoint 开发,通过分析 Wi-

    来源 AI 行业观察
  6. 防止考生利用 AI 作弊,韩国临时屏蔽高考考场及周边 100 米内公共 WiFi

    IT之家 11 月 18 日消息,据韩联社报道,韩国 2027 学年度大学修学能力考试(高考)开考在即,为防范考生利用人工智能技术作弊,自当地时间 18 日下午 6 时起,全国高考考点及周边地区临时屏蔽公共 WiFi 信号。 据韩国政府和通信业界消息,应政府要求,韩国三大移动运营商(SK 电信、KT、LG U+)从 1

    来源 AI 行业观察
  7. 意大利学者鲁乙己:AI正带动新一轮全球化到来

    2026年亚太经合组织(APEC)领导人会议周正在深圳举行,数字经济与人工智能是贯穿始终的关键词。 11月19日,中欧数字协会创始主席、意大利经济学家鲁乙己(Luigi Gambardella)在峰会间隙接受新京报贝壳财经记者的专访。 作为非APEC经济体受邀嘉宾,这是他首次参加APEC工商领导人峰会。这位长期活跃于中

    来源 AI 行业观察
  8. OpenAI首款AI硬件年底出货:立讯精密独家代工,“甜甜圈”真机渐近

    【TechWeb】OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备

    来源 腾讯网
  9. OpenAI下场造机!首款AI手机细节曝光,直接叫板传统手机厂商

    【TechWeb】供应链最新消息显示,富士康旗下的富智康集团已拿下OpenAI手机项目订单,负责整机组装环节。据财联社报道,OpenAI的首款手机预计最快2027年底、最迟2028年正式亮相,除组装外,立讯精密、领益智造、瑞声科技等多家苹果供应链厂商也将参与零部件供应。截至目前,富士康方面尚未对上述消息作出回应,产品的

    来源 腾讯网
  10. 企业用 AI 面试我,我能用 AI 回答吗?

    写在前面 在面试时,使用 AI 来回答问题,是对企业和个人来说,都已经是一个已经无法回避的问题。 有 HR 对此深恶痛绝,认为是诚信问题。一个面试官和我说过一个真事,当时线上面试的时候,他们希望候选人分享自己做过的一个项目,结果候选人一不小心投屏的时候把 AI 辅助回答给亮了出来。 本来他们对于候选人的资质非常认可,但

    来源 AI 行业观察
  11. 张朝阳回应搜狐在AI浪潮中“躺平”:这是一种“清醒和无奈”

    2026年11月18日,搜狐创始人张朝阳回应外界认为搜狐在AI浪潮中“躺平”的说法,称这是一种“清醒和无奈”:大批年轻人正没日没夜投入AI,自己在竞争力和资金上都不够。他表示将做最熟悉、最擅长、最热爱的东西,不追求做到老大,但要做有质量、有品质的产品。

    来源 凤凰科技
  12. 郑渊洁71岁用AI做动画:8部短片免费上线,抖音每周更新两期

    【TechWeb】11月17日,停更近两年的郑渊洁在个人社媒发声,宣布了一件让他自己都觉得“振奋和不可思议”的事:对动画制作“一窍不通”的他,已经用AI把自己的童话作品做成了动画短片,全部通过授权抖音账号“郑渊洁童话世界”免费开放观看。这位71岁的“童话大王”在视频末尾向00后道贺——祝贺他们赶上了“可以免费享用精..

    来源 腾讯网
向下滚动自动加载更多