AI写论文更方便了,学术诚信怎么守住?
谈起这两年AI给编辑工作带来的变化,《科技通报》编辑吴頔最先想到的是“论文篇幅变长了,工作量变大了”。 吴頔告诉中青报·中青网记者,以前的论文初审主要关注选题、格式和复制比。如今,编辑还要辨别语言是否空泛、论证有没有实质内容,以及那些格式规范的参考文献,能否找到真实存在的原文。吴頔遇到过一些稿件,语言流畅但内容空洞;公
说到这两年AI给编辑工作带来的变化,《科技通报》编辑吴頔头一个想到的,是论文变长了,活也变多了。
吴頔向中青报·中青网记者回忆,过去初审主要盯选题、格式和复制比。现在不一样了,编辑还得判断语言是不是空泛、论证有没有干货,就连格式规整的参考文献,也得核实能不能找到真实存在的原文。他碰到过一些稿子,读起来顺溜,内容却空;摘要像套模板;引用列得齐全,可顺着数字对象唯一标识符(DOI)去找,对应的文献根本打不开。
AI确实帮编辑分担了语言润色、格式整理这类重复劳动,但吴頔观察到,科研诚信审查和原始材料核查的压力反而上来了。他的说法是,“单靠查重率远远不够”。
AI早先只是简单润色、检索文献,如今已经伸到数据分析、研究推理和同行评审里,学术出版面对的诚信问题也跟着变复杂:一项成果是怎么做出来的,哪些环节有AI工具插手,事实由谁核验,最终发表的内容又该谁来负责?
看着“很像样”的论文,内含多少“猫腻”
10月举行的2026世界青年科学家峰会——青年科学家与一流期刊共生发展论坛上,英国物理学会出版社亚太出版总监杨萍萍亮出一组数据:过去3年,这家出版社的投稿量涨了55%,可同行评审里能送审的文章率从63.5%掉到44.5%,同期发文量只有28%。
杨萍萍觉得,10年前的编辑部评审流程“没有现在这么复杂”,不少涉及学术诚信的判断相对简单直接。眼下论文工厂、AI牵扯的图片操纵等问题越来越难辨认,编辑部在送外审之前,得花更多时间去判断作者身份真不真、引用有没有异常、稿子够不够送审条件。出版社还专门设了科研诚信团队,在稿件发表前后做调查。
吴頔看到,AI普及之后,文章批量生产更快,洗稿更自然,跨语言改写也更多,套路从“一眼假模板”变成了“看着挺像正常论文”。他列举了几种常见信号:投稿账号或邮箱/IP异常、摘要高度模板化、审稿人推荐造假、内容很完美但原始数据缺失。
吴頔说,一篇文章牵扯的各类学术诚信问题越来越难识别,现在更依赖“系统数据+人工核查+原始材料”这套组合。参考文献方面,编辑部先用专门软件筛查,再复核作者信息异常、期刊名错误、DOI无法访问、引用内容与原文不符等情况;数据和图片方面,则查原始材料、统计一致性、图片元数据,以及有没有重复拼接。
北京邮电大学计算机学院教授鄂海红团队从文本、实验、图文一致性和引文关系等维度入手,研究怎么识别问题论文。团队建立的模型系统会对科学图像做特征比对,尝试把AIGC生成的图像认出来。
“如果是画流程图或示意图,在这种场合下可以用AI,只需要在投稿时正确地声明使用情况。”鄂海红说,可要是来自真实世界的实验图像,比如医学上本该取自真实临床病理的图片,被人用AI一键生成,那就得帮编辑把它识别出来。
浙江省公共政策研究院研究员高艳东接受中青报·中青网记者采访时说,AI介入学术科研,并没有让学术不端的类型彻底变样,倒是让知识生产过程更不透明了。
“一段文字、一张图片乃至一个研究结论,都可能经过人工智能的深度介入,传统上通过文本比对识别问题的方式就不够用了。”高艳东认为,学术诚信治理不能只查最终成果,还得盯住资料来源、生成过程和人工审核。
AI率检测无法成为学术不端的唯一判断依据
高校里,AI生成技术、规避检测的手段和检测工具都在不断更新,拿AI工具去测学生论文的AI率,早就成了一场“猫鼠游戏”。中国人民大学教授李彤指导研究生论文时,除了常规查重,也会测一测论文的AI疑似率。不过他觉得,这类工具只能当参考,不能直接拿来认定。
李彤解释,检测工具本身靠的是概率模型,有点像“用魔法打败魔法”。他记得有学生被查出70%的AI疑似率后追问:“到底哪句话是AI的,有什么证据证明?”工具能给个数值,却未必说得清具体内容到底出自哪里。
吴頔也表示,编辑部眼下只把AIGC检测结果当参考,不会据此“一票否决”。发现疑点后,更要紧的是回到稿子本身,让作者交出原始数据、图片、分析代码和AI使用说明,再结合审稿人的质疑去核查。
鄂海红认为,人工写作后由AI编辑、AI生成后再由人工修改润色,跟全文一键生成,应该分得更细一些,这样编辑才能看清AI在文章里起了什么作用。她强调,技术可以负责检测、匹配和整理线索,解释证据、作出科学判断,最后还是得靠专家。
高艳东也提醒,别把AI检测结果直接当成认定学术不端的依据;真要处分,得有充分证据,还要保障当事人解释和申辩的权利。
判断有没有越界,也不能光看用了哪种工具、生成了多少字。高艳东觉得,更该看AI有没有替作者干本应由他承担的实质性研究工作,有没有造成误导。比如语言润色一般可以接受,可一旦改变了论证含义,作者就必须重新核查;辅助分析数据也不当然违规,前提是数据真实、方法适当、结果经得起验证。
这些要求对编辑自己也一样。杨萍萍介绍,出版社在安全环境里探索AI辅助初审,工具能提示稿件和期刊要求匹配不匹配,帮编辑发现值得关注的问题;一些流程性工作也能靠自动化提效,但工具替代不了编辑部做最终判断。
文章可以有AI参与,但成果不能由AI负责
这些年,国家陆续出台《关于推动学术期刊繁荣发展的意见》《国务院关于深入实施“人工智能+”行动的意见》等政策文件,接续实施“中国科技期刊卓越行动计划”,统筹推动人工智能融入科学研究、学术传播各环节。与之配套的“规矩”,也在慢慢立起来。
8月19日,《坚守科研诚信 共建一流期刊——中国科技期刊卓越行动计划维护学术诚信倡议》由中国科技期刊卓越行动计划入选期刊及集群联合发出。倡议第三条把话说明白:人工智能该用在哪儿、不该用在哪儿,得有边界。科研活动和学术出版中,AI只能起辅助作用,相关使用披露制度要建起来;用了什么工具、用到什么程度,须主动说明,让学术贡献的归属清清楚楚,责任也能追到人。
从今年开始,国内多家学术期刊接连推出各自的AI使用规范,包括西安交通大学期刊中心、《电子与信息学报》《法学教育研究》《哈尔滨学院学报》《当代教研论丛》等。中青报·中青网记者注意到,学界并不主张“一刀切”,态度始终偏向“把AI用在阳光下”。
西安交通大学期刊中心在8月10日发布的关于规范使用生成式人工智能的声明里提到,作者可以合规地用AI工具做辅助性、事务性工作,但仅限于提升研究质量和科研效率;只要在学术研究、论文撰写或修改中用到了AI工具,投稿时就须完整、如实披露工具名称、版本、使用环节及生成内容。哈尔滨学院10月15日就《哈尔滨学院学报》《当代教研论丛》两刊发布规范使用生成式人工智能的声明,明确作者须对来稿全部内容的真实性、原创性、学术规范性承担完全责任,不接受任何生成式人工智能工具作为论文署名作者。
吴頔也介绍了《科技通报》的做法:合理且透明的辅助润色、翻译、代码调试和文献检索是允许的;AI署名不行,编造数据、图片和参考文献不行,把核心创新和全文撰写交给AI也不行。
在吴頔看来,“关键不是‘用没用’,而是‘有没有如实说明、内容是否真实、作者是否负责’。”他说,期刊会在投稿时要求作者不得虚构或隐瞒生成式AI工具使用信息,作者要对该使用情况负责,并与期刊签署协议。
鄂海红在论坛上指出,润色、检索、图片编辑和表格制作这些工作,AI能提速,但学术观点的责任还得作者自己扛。杨萍萍也表示,英国物理学会出版社不允许AI成为作者,也不允许审稿人用AI工具生成审稿报告;论文的可靠性、评审的严谨性和科学判断,应分别由作者、审稿专家和编辑负责。
至于作者的披露声明该怎么写,高艳东提出,要说明工具用在什么环节、起了什么作用,以及作者做了哪些核查,而不是笼统地写一句“使用过人工智能”。
高艳东认为,眼下不同学科、不同期刊的具体要求还不一致,亟需把原则落成可执行的标准:哪些使用需要披露,披露到什么程度,哪些过程需要留存记录。“披露应服务于透明和问责,而非给使用者贴标签。”
使用AI工具编辑审阅未发表文章,还存在数据泄露的潜在风险。高艳东提醒,这些材料里可能有受试者个人信息、医疗记录、企业商业秘密。即便隐去了姓名,也不代表数据无法识别到个人,信息组合之后重新识别的可能性同样要考虑。
吴頔提到,尚未发表的论文不能整篇传到公共AI模型上;未公开的数据、核心观点,以及作者与审稿人的身份信息,都得保密。编辑、审稿人即便借助工具开展工作,也不能把未经核实的AI意见当成最终结论。
高艳东给出的办法是分类分级管理数据:哪些材料能喂给通用模型、哪些只可在受控环境中处理、哪些根本不许上传,都要划定清楚;同时要对服务商的数据留存、训练使用及跨境处理规则作出审查。高校这边也该拿出安全的替代工具,配上培训支持,让研究者有合规使用的条件。
高艳东说:“人工智能可以参与工作,但不能成为推卸责任的理由。”他还表示,既不能把使用人工智能一概视为不端,也不能因为它是新技术,就降低学术责任的标准。
中青报·中青网记者 王璟瑄