AI 替人读论文,de Souza 在 ACM MM 2026 谈研究者的认知权威
研究者需要的不只是AI生成的答案,更是审查答案、追溯来源并为知识判断负责的能力。


几十页的 PDF 摆在面前,实在没时间一行行读,很多人会把论文直接丢给 ChatGPT 或 Claude,让它提炼核心观点。这种经历想必不少人都有过。
屏幕上很快就会出现一份条理清楚的摘要。看一眼,觉得论文大意已经装进脑子,有人甚至把里面的观点直接引进了自己的研究。
可问题来了:AI 总结出来的,真是原作者想说的吗?万一它悄悄塞进了原文没有的观点,或者把八竿子打不着的概念连在一起,做研究的人能不能及时察觉?
ACM Multimedia 2026 正在召开,人机交互领域的先驱、巴西里约热内卢天主教大学(PUC-Rio)荣休教授 Clarisse Sieckenius de Souza 在会上做了一场主题演讲。
她以自己提出的“语义工程”(Semiotic Engineering)理论为起点,谈 AI 怎样改变人与信息的关系,也谈把文献阅读和理解交给 AI 之后,研究者的“认知权威”(Epistemic Authority)该怎么守住。
从界面如何传递设计者的意图,到 AI 摘要如何偏离原文,再到怎样用 PEEL 方法审视 AI 的文本处理过程,这场演讲为理解 AI 时代的知识责任打开了另一个视角。
演讲全文如下:
依我看,人机交互(HCI)可以当成一场对话来理解。
不过这场对话并不发生在应用程序或系统与用户之间,它由计算机媒介促成,真正对话的是两群人:一边是设计和开发应用程序的人,另一边是使用这些程序的人。
对话在界面上展开。界面其实充当着设计者的代理人,替设计者把信息传给用户。它能表达的方式和语言,都是设计者事先定好的,也就是我们常说的人工语言。
比如用某个网站时,界面会告诉你哪些操作能做、哪些不能做。在 Cookie 偏好设置页面里,用户可能想切换某一项必要设置,界面却回一句:这项操作完不成。

这条信息其实出自设计者。用户从界面得到的反馈,反映的是设计者希望用户做什么、能做什么、又不能做什么。
语义工程(Semantic Engineering)的基本想法就在这里:界面替设计者发声,用户则通过学习、使用界面语言,跟设计者交流。

界面语言当然不限于文字。它也可以是一套纯图形化、以对象为中心的语言。用户操作屏幕上的对象来表达意图,界面再以对象的变化回应。
但界面不一定总按用户预期作出回应。
准备这场演讲时我就碰上过一件挺有意思的事:我想在界面里插入一个文本框,结果它上下颠倒了。为什么会这样,我完全不知道。
这正说明,界面会怎么回应,我们有时预料不到。碰到意料之外的结果,只能试着去理解它,再调整自己的操作。

一般来说,每个系统都有一套约定俗成的交互模式。这些模式多少限定了用户能表达什么、能做什么。想通过界面把意图表达出来,就得反复试。
更要紧的是,每个系统都有自己的一套语言。哪怕两个系统用着相同的词,词背后的语义也可能差得很远。
所以每接触一个新系统,都得重新经历一次学语言的过程。
这有点像孩子学母语,也像成年人学第二语言。人们不断尝试,看系统怎么回应,弄懂不同词汇和视觉符号的意思,慢慢把这套语言掌握起来。
碰到一个此前没用过的系统,人通常会先反复折腾。某个按钮是干什么的、某个视觉元素点了会出什么结果,事先都不知道,只能一边操作一边摸清门道。
语义工程到底包括哪些内容?可以从三块讲起。
头一块,人机交互本质上是一种中介传播。设计者、开发者借助人工界面语言,把设计意图送到用户那头;用户学会这套语言,就等于在和设计者的代理人打交道,借此达成自己的目的。
不过,用户想做的事未必就是设计者预先安排好的那件事。有些时候,人们会把一个应用拿去完成设计者压根没预料到的任务,用起来甚至还挺顺手。
第二块,界面里的交流要靠三类符号。
一类是静态符号。它们固定摆在界面中,单靠自身的呈现方式就能传达意思。
另一类是动态符号,得靠时间和状态的变化来表意。比如点一下按钮,按钮随之发生的变化、以及此后触发的行为,都在告诉用户这个按钮代表什么。
还有一类叫元语言符号(Metalinguistic Signs)。这是专业叫法,指的是能够解释其他符号的符号。界面提示就是例子:它能说明某个图形对象指代什么,也能引导用户去做某个操作,以达成特定目标。
第三块,用户的语言学习能力很强。设计者会沿用已有的交互模式、用户熟悉的语言体系,再加上元语言提示,帮用户弄懂新出现的界面词汇和语义。

这三块搭起了语义工程的基本框架。可随着AI往前走,人和计算机交流的路数正在变。AI已经能用自然语言跟人对话了。
于是问题来了:AI既然能听懂自然语言,语义工程是不是就没那么要紧了?
我的回答是:情况正好反过来。

大约四周前,我正用Claude准备这场演讲,碰上了一件让我很意外的事。
Claude的界面看着不复杂,就是对话式的交互。人在输入框里提问,Claude在屏幕上作答。
有些时候,界面还会结合当前对话的上下文,猜用户接下来想输入什么,主动给出建议回复。
这事本身不稀奇。真正让我吃惊的,是某一次具体的对话。
那会儿我正和Claude讨论问题,它忽然列出一份清单,第一项居然是它认为我想表达的论文主旨。它给出的观点大意是:问责机制必须被设计出来,不能想当然地假定它已经存在。
我很惊讶,因为我从没打算把这个观点当作论文主旨。但我觉得这想法挺有意思,就顺着它的建议聊下去。我跟Claude说,它提的这个论点不错,可以围绕它展开讨论。
没想到Claude很快把我纠正了。它说,先要澄清一点:此前它并没有提出这个论文主旨,只是在问我真正想表达什么;现在回看整段对话,它才意识到这个观点好像出现过。
我接着追问:如果不是你做的这个判断,那究竟是谁、或者是什么,把这个观点摆到了我面前?Claude的回答很有意思:
“这个我说不准。你的输入框我这边看不到,因此应用有没有给出建议回复、那些回复由谁生成、又参考了什么上下文,我都没法判断。这条消息到我这儿时,看上去就是你说的话。实际情况如何,我无从得知。我先前那次纠正没有错——我确实没在这轮对话里写下那个论文主旨,可这个说法到底从哪来,我也说不清。这一点我本该讲明白。”
这段对话很有意思。这个例子完全不是我编的,说实话,就算想编,也很难设想出这样一个场景。

这一遭下来我才明白,眼前的AI对话系统远比看上去要复杂。我们满心以为是在跟一个懂上下文的系统聊天,可界面背后还有哪些代理、哪些机制、哪些别的信息源掺和进来,未必说得清。
照这么说,语义工程就没用了?我的看法正好反过来。它非但没贬值,担子反而更重了。原因很简单:就算到了今天,人和AI之间传话还是可能出岔子——信息是看见了,它打哪儿来的却未必清楚。

界面到底该把什么交代给用户?用户知不知道自己是在跟谁说话?对话框里蹦出一句话,我们能分辨它是用户说的、AI说的,还是中间哪个环节递过来的吗?这些都得重新想。
接下来我要谈的,正是这件事。
我真正上心的,是AI在科研里被大量使用这件事,AI辅助文献综述尤其如此。
读文献本来就是研究工作的家常便饭。一篇论文讲了啥、另一篇有什么贡献、某个研究问题和已有成果怎么挂上钩,都得靠大量阅读。
问题是,如今要读的东西实在太多。

这次会议的投稿量据说超过8000篇。这么一堆论文摆在面前,谁有本事光靠个人的时间和精力全部读完?有些场合确实得请AI帮忙。我自己也用。
让AI说说某篇论文讲了什么、某个方向有哪些重要工作、某个具体问题和哪些研究相关,都可以。
可这里有个问题得认真对待:把文献阅读外包给AI之后,我们还能不能保住自己的认知权威(Epistemic Authority)?
认知权威是个有特定含义的哲学概念。相关讨论能追到Linda Zagzebski等学者,后来也有别的哲学家接着往下做。
这场演讲里我只盯一个具体问题:把文献阅读和理解交给AI,它给的摘要和研究报告,能不能信?

认知权威为什么这么要紧?
科学家和研究者得为自己说的话、为表达观点的方式负责。研究是有社会责任的,提出的知识主张站不站得住,不能当儿戏。
要做出判断,我们靠的是集体知识——别的研究者发表的论文、做过的实验、攒下的成果。
一旦用AI来做文献综述,就得想一件事:它可能带来的风险,我们评估得了吗?
先说清楚,我不是说不能用AI。我想强调的是:用的时候,我们有没有本事认出并判断自己正担着什么样的风险?
这些风险也许压根不存在,也许真有。可要是没有相应的机制,风险有多大就很难摸清。
我们团队正在试着解决的,就是这个。
我们这套方案是在研究机构里做出来的,叫PEEL,全称Protocols for Epistemically Engaged AI Literacy。

这套方案想做的,是把确定性计算、人工智能与人这三样东西串到一起。确定性计算为什么重要?我们长期信任计算机,很大程度上就因为它确定:同样的条件,它会一遍遍重复同样的操作。
可眼下我们开始信任另一种系统——每次跑起来结果都可能不一样的AI。这件事本身就够让人琢磨一番了。
人工智能是第二个要素。处理自然语言,AI的能力是以前没有过的,信息怎么理解、文本怎么分析,都多出了新的路子。
第三个要素是人,也是最要紧的一个。知识、意图、判断力,都在人这边。信息一复杂,就得把各种因素摆到一起权衡,最后拍板什么可信、什么站得住。所以我们想把这三者结合起来:让AI参与信息处理,判断和审查知识的权力仍旧留在人手里。
思路要验证,我们挑的工具是Voyant做确定性计算、Claude做AI,理解与判断的收尾工作交给人类。
PEEL不是一个关起门来全自动跑的系统。研究者可以拿到相关工具,亲身走一遍整个流程。下面说说这套方法具体怎么运转。
在PEEL的流程里,研究者先用AI生成文本摘要,再借Voyant这类文本分析工具,把摘要和原文摆在一起对照。摘要写了什么固然要看,我们更在意它和原文之间到底是什么关系。
这和普通AI摘要有个很大的不同:不只是看摘要写了什么,还要查摘要与原文之间究竟是什么关系。

PEEL系统介绍与体验入口
我们做过一次实验:同一份文本,分别交给ChatGPT的不同版本、Claude等不同AI系统去摘要,再把它们的结果和PEEL生成的放在一起比。
从符号学讲,这种尽量留住原文特征的摘要,我把它理解成原文的一个图像符号(Icon)。这里的图像不是指视觉上的图片,重点在于符号和它所指的对象之间有某种可感知的相似。举个例子,原文按章节、小节来组织,PEEL生成的摘要就保留一模一样的章节结构。
原文用第一人称写,摘要也尽量保留第一人称的说法。好处在哪?摘要保住了原文的结构和表达方式,我们就更容易回到原文对应的位置,去核对摘要有没有把作者的意思准确传过来。
文本分析工具也派得上用场:把原文和不同摘要里的语义类别、关键词以及出现频率拿来比对。比如某个术语在原文里出现多少次、在各版摘要里又出现多少次;也能查出某个术语在摘要里有、原文里却一次没出现过。

PEEL利用Voyant对比原文与多个AI版本(ChatGPT、Claude)在关键词连接度上的差异
这些变化是不是就说明有问题?不一定。让你总结一篇文章,你和旁边坐着的人给出的摘要很可能不一样,你们会按自己的理解掺进一些原文没直接用的词。这很正常,各人有各人的知识背景和解释方式。AI身上也会出现类似的情况。
真正的问题出在把文本解释整个交给AI的时候:它可能毫无约束地塞进一些相关话题,这些话题跟原文有牵连,却未必真属于原文的论述。

Voyant生成的可视化图
如果只看AI生成的摘要、不翻原文,那你拿到的东西也许并非作者真正想说的,而是AI围绕话题自行延伸出来的建议。认知权威的风险恰恰藏在这里。
更麻烦的是,你可能在自己的研究里声称某位作者提过某个观点,可这位作者从没这么说过。
原文与不同摘要之间的语义联系,可以借助Voyant的可视化功能来看。
PEEL用Voyant生成可视化网络图,把不同概念在摘要里语义连接的变化直观摆出来。
在这些可视化结果里,原文是参照的基础。各份摘要则各自带来新术语、新联系,原有联系也发生变动。
比如有些连接在摘要里头一回出现;另一些原本就在原文里的联系,到了摘要里可能变得更频繁,也可能不再那么突出。
这些变化本身说明不了摘要一定有问题,但能帮我们找出该进一步核查的位置。
图里的颜色还能区分不同的联系,由此可以看出不同AI系统生成摘要时,哪些语义关联发生了变化。
这样一来,我们就不只是被动接受AI给的结果,而是多了一套能继续查下去的工具。
那该怎么检查AI生成的摘要?
PEEL里有个很重要的设计思路:让AI当自己的对手。
我们借Voyant的文本可视化、传统文本分析和计算语言学资源,给AI生成的内容配上一套审查机制。说白了,AI负责生成摘要,文本分析工具负责给用户提供核查摘要的资源。
AI提出什么观点,用户都能靠这些工具判断要不要再核实。当然,不是所有情况都得查得一样严。
比如只想确认某篇论文里有没有某项信息,快速翻一下原文、看看这项信息是否确实存在就够了,未必需要深究作者是怎么得出结论的。可要是把某个观点当作自己研究的重要依据,那核查就得严格得多。
这就是我们说的认知权威风险评估。
我还想讲讲我们是怎么约束Claude的工作方式的。把整个过程概括起来,我会这么说:
“你可以借用我的说法,但得先提醒我:你其实并不知道自己在讲什么。别拿我的话来替我下判断,也别擅自替我判断,而是要让我清楚,你对自己正在处理的东西并没有真正理解。”
这个约束很关键。我们希望Claude尽量忠实地处理原文,别拿自己的世界知识不停延伸、补充。它的任务是把文本压缩和转换,而不是替研究者把所有解释工作做完。
PEEL一个典型的工作环境是Jupyter Notebook。参数、代码和具体分析过程都看得见,用户也能按需要改代码。
你要是不同意我的分析方式,完全没问题。写自己的分析程序,按自己的标准查文本就行。
整个流程我们希望保持开放。摘要生成本身也可能带来偏差,提示词会引入偏差,文本分析方式也会。用户不光能改提示词,还能调整文本分析过程,进一步查这些偏差是从哪来的。
具体呈现摘要时,我们还会给出不同的压缩比例。
比方说,一篇20页的论文,既可能压到原文的10%,也可能进一步压到25%。不同压缩程度下,原文结构和主要观点有没有保住,用户可以自己比对。
有个很关键的设计:尽量留住原作者的声音。作者原文写的是“I argue”,摘要里也尽量保留这种第一人称说法。这样一旦有疑问,就能很快翻回原文对应位置,看作者到底主张了什么。
另外,PEEL会把摘要过程中用到的各种操作分门别类,评估它们各自可能带来什么风险。
举例来说,把四个句子并成一句,解释风险通常高于照抄原文句子。能直接用原文引语的地方,我们就直接引用,再加上颜色标记和来源链接,让用户能一路追到出处。
还有一点:用户不是被动接收摘要结果,而是可以参与生成过程。
比如AI会反过来问用户:这些语义类别跟你的理解对得上吗?这种分类你认可吗?要不要调整?
最初的语义类别,是根据文本里的词语分布和词汇关系提出来的,用户可以按自己的理解去改。
我们也准备了不少可视化结果,方便用户对照原文与摘要之间的结构、语义和变化走向。其中我认为很要紧的一项,是Voyant里的语境检索列表(Concordance)。
假设要研究一篇论文里关于“AI信任”的讨论,用语境检索就能定位这个词在原文中出现的所有位置,再看各版摘要有没有把这些内容留下来,是否还处在同样的语境里。靠这些办法,我们希望用户对摘要更有信心,摘要本身的质量也能提上去。
当然,PEEL眼下只是个起点。我们处理的,只是AI给人类理解知识带来的问题中很小的一块。语言本身也不过是符号系统里的一种。
对今天在座的多媒体研究者来说,有个问题更值得想一想:
信息若不再靠文字传递,而改由声音、手势、情绪以及其他多模态信息来表达,类似的认知权威问题会不会也出现?
我想,这些问题都还需要进一步讨论。
谢谢大家。
▎问:用AI就意味着要解决的问题越来越多,那这些问题什么时候是个头?
这问题很有哲学味。我的看法是,AI的用法可以有很多种,它身上有大量令人难以置信的可能性。
落到认知权威问题上,眼下有一条研究路径,是想办法提高AI自身的认知可信度。说白了,就是让AI更可靠,更好地支撑人的知识判断。
但也有一条路是反过来的:先承认AI有局限,评估用它的风险,再判断什么情况下该依赖它、什么情况下该留个心眼。
我的直觉是,这两条路或许该同时走。有些场景里,我们确实希望AI的认知能力比现在更强;另一些场景里,尤其研究结果可能产生重大社会影响时,对AI辅助研究的结果,呈现和使用都该更谨慎。
拿疫情来说,它的影响波及地球上的每一个人,甚至整个地球本身。这类研究的社会意义极其重大。所以现阶段,其中的风险需要认真评估。
▎问:界面里的符号,意义该怎么理解?符号的含义取决于单个界面,还是取决于一类界面共同形成的参照体系?
哪种界面最好,我从来不敢下断言。眼下用的界面或许就是个好例子:你用我能理解的语言跟我交流,可反过来,我未必完全明白你的意思。你自己也未必确定是否完全理解了我。
既然如此,怎么能轻易断定某一种界面就是最好的?
我真正想说的是,界面应当帮我们做更好的意义协商(Meaning Negotiation)。
一旦彼此理解不了,人就得靠各种策略去协商意义。语言符号之外,别的符号类型同样参与其中。
我眼下有个想法:让AI以它本来的样子出现在用户面前。
换句话说,别把AI包装成什么都懂、什么都能理解的样子。要让用户清楚,这是个能用我的语言跟我交流、却未必清楚自己在说什么的系统。
前面提到的Claude案例还记得吗?当时我根本不知道,Claude的对话过程可能被其他代理插了一手。更让人意外的是,它自己也说不清这些信息从哪来。
所以界面里要把这种可能性摆明。得设计一种符号,文字提示也好,视觉提示也罢,让用户意识到系统的信息来源和中间环节可能不止一层。风险恰恰出在这里。
最好的界面长什么样,我到现在也没定论。我一直偏爱让用户自己配置界面的思路。人和人需要的交流方式不一样,界面就该允许他们按自己的需求去调。
▎问:原文写2+2=4,AI摘要却写成2+2=5,这类AI生成摘要时的幻觉,PEEL能查出来吗?
有些幻觉是能被发现的。
比如把原文里关于AI信任的具体论述,拿去和摘要里的对应内容比一比。差得明显,就可以再往下查。
不过我没有专门针对幻觉做过分析。PEEL给出的材料和工具,已经够撑起这类研究了。有兴趣的话,完全可以拿这些资源去做。
还想补一句:不少幻觉其实出在AI的世界知识上,不只是语言处理那一层。AI可能凭自己掌握的 background 知识,认定某篇论文讲的是另一个相关话题,往摘要里塞进原文根本没提的内容。
这也是我们约束Claude的原因——让它更像机器翻译那样处理文本,对原文做压缩和转换,而不是自由发挥。目的是让读者拿到一个更浓缩的版本,同时解释的工作仍留给他们自己。
当然,压得太狠也会出问题。摘要本身没写错,读者照样可能因为信息太浓缩而理解偏。
可我觉得,用这类工具就得担这个风险。目前的实验显示,压缩比例到25%或30%上下时,文本的可读性还相当不错。反过来说,算法还有不少优化余地,整个流程仍然需要大量工作。
▎问:AI能干的活越来越多,这种变化会不会压掉人的创造力?过去我们不断造新工具去完成不同任务,现在几乎什么都能直接让AI生成。技术创新会不会因此受影响?
我不认为创造力一定会因此下降。
我喜欢拿无穷这个概念来想这件事。同类型的东西可以有无数个,但这不代表创造方式只剩一种。
如果创造力指的是从一种事物跳到另一种完全不同的事物,那确实要警惕:我们可能正在生成无数个同类型的东西,而不是不断踏进新领域。
2024年Nature上有一篇相关研究者发的文章,谈的就是科学研究可能走向同质化。越来越多人开始按AI能完成的任务来安排自己的研究,研究者也可能慢慢把工作调整成适合AI处理的样子。
不过我还是愿意相信,AI能被用出几十种、几百种甚至几千种方式。凭什么非得选同一种用法?在我看来,还有个更要紧的问题——生产力,尤其是科研里的生产力。
如今衡量研究者,常看发了多少篇论文。AI正在为这个生产力循环服务,而这可能比AI本身对创造力的影响更值得盯。要是能暂时从这种循环里跳出来,我认为AI会展现出很多让人惊喜的用法。
我很幸运,已经退休,多少能跳出这个循环。这种情况下,我们或许才真能去探索AI的各种可能,而不只是让它帮我们把已有的活干得更快。这才是我更想看到的方向。