AI写论文更方便了,学术诚信怎么守住?

资讯 AI 行业观察 全文 3629 字 · 约 10 分钟读完 分类学术研究

谈起这两年AI给编辑工作带来的变化,《科技通报》编辑吴頔最先想到的是“论文篇幅变长了,工作量变大了”。 吴頔告诉中青报·中青网记者,以前的论文初审主要关注选题、格式和复制比。如今,编辑还要辨别语言是否空泛、论证有没有实质内容,以及那些格式规范的参考文献,能否找到真实存在的原文。吴頔遇到过一些稿件,语言流畅但内容空洞;公

所属频道 前沿研究

说到这两年AI给编辑工作带来的变化,《科技通报》编辑吴頔头一个想到的,是论文变长了,活也变多了。

吴頔向中青报·中青网记者回忆,过去初审主要盯选题、格式和复制比。现在不一样了,编辑还得判断语言是不是空泛、论证有没有干货,就连格式规整的参考文献,也得核实能不能找到真实存在的原文。他碰到过一些稿子,读起来顺溜,内容却空;摘要像套模板;引用列得齐全,可顺着数字对象唯一标识符(DOI)去找,对应的文献根本打不开。

AI确实帮编辑分担了语言润色、格式整理这类重复劳动,但吴頔观察到,科研诚信审查和原始材料核查的压力反而上来了。他的说法是,“单靠查重率远远不够”。

AI早先只是简单润色、检索文献,如今已经伸到数据分析、研究推理和同行评审里,学术出版面对的诚信问题也跟着变复杂:一项成果是怎么做出来的,哪些环节有AI工具插手,事实由谁核验,最终发表的内容又该谁来负责?

看着“很像样”的论文,内含多少“猫腻”

10月举行的2026世界青年科学家峰会——青年科学家与一流期刊共生发展论坛上,英国物理学会出版社亚太出版总监杨萍萍亮出一组数据:过去3年,这家出版社的投稿量涨了55%,可同行评审里能送审的文章率从63.5%掉到44.5%,同期发文量只有28%。

杨萍萍觉得,10年前的编辑部评审流程“没有现在这么复杂”,不少涉及学术诚信的判断相对简单直接。眼下论文工厂、AI牵扯的图片操纵等问题越来越难辨认,编辑部在送外审之前,得花更多时间去判断作者身份真不真、引用有没有异常、稿子够不够送审条件。出版社还专门设了科研诚信团队,在稿件发表前后做调查。

吴頔看到,AI普及之后,文章批量生产更快,洗稿更自然,跨语言改写也更多,套路从“一眼假模板”变成了“看着挺像正常论文”。他列举了几种常见信号:投稿账号或邮箱/IP异常、摘要高度模板化、审稿人推荐造假、内容很完美但原始数据缺失。

吴頔说,一篇文章牵扯的各类学术诚信问题越来越难识别,现在更依赖“系统数据+人工核查+原始材料”这套组合。参考文献方面,编辑部先用专门软件筛查,再复核作者信息异常、期刊名错误、DOI无法访问、引用内容与原文不符等情况;数据和图片方面,则查原始材料、统计一致性、图片元数据,以及有没有重复拼接。

北京邮电大学计算机学院教授鄂海红团队从文本、实验、图文一致性和引文关系等维度入手,研究怎么识别问题论文。团队建立的模型系统会对科学图像做特征比对,尝试把AIGC生成的图像认出来。

“如果是画流程图或示意图,在这种场合下可以用AI,只需要在投稿时正确地声明使用情况。”鄂海红说,可要是来自真实世界的实验图像,比如医学上本该取自真实临床病理的图片,被人用AI一键生成,那就得帮编辑把它识别出来。

浙江省公共政策研究院研究员高艳东接受中青报·中青网记者采访时说,AI介入学术科研,并没有让学术不端的类型彻底变样,倒是让知识生产过程更不透明了。

“一段文字、一张图片乃至一个研究结论,都可能经过人工智能的深度介入,传统上通过文本比对识别问题的方式就不够用了。”高艳东认为,学术诚信治理不能只查最终成果,还得盯住资料来源、生成过程和人工审核。

AI率检测无法成为学术不端的唯一判断依据

高校里,AI生成技术、规避检测的手段和检测工具都在不断更新,拿AI工具去测学生论文的AI率,早就成了一场“猫鼠游戏”。中国人民大学教授李彤指导研究生论文时,除了常规查重,也会测一测论文的AI疑似率。不过他觉得,这类工具只能当参考,不能直接拿来认定。

李彤解释,检测工具本身靠的是概率模型,有点像“用魔法打败魔法”。他记得有学生被查出70%的AI疑似率后追问:“到底哪句话是AI的,有什么证据证明?”工具能给个数值,却未必说得清具体内容到底出自哪里。

吴頔也表示,编辑部眼下只把AIGC检测结果当参考,不会据此“一票否决”。发现疑点后,更要紧的是回到稿子本身,让作者交出原始数据、图片、分析代码和AI使用说明,再结合审稿人的质疑去核查。

鄂海红认为,人工写作后由AI编辑、AI生成后再由人工修改润色,跟全文一键生成,应该分得更细一些,这样编辑才能看清AI在文章里起了什么作用。她强调,技术可以负责检测、匹配和整理线索,解释证据、作出科学判断,最后还是得靠专家。

高艳东也提醒,别把AI检测结果直接当成认定学术不端的依据;真要处分,得有充分证据,还要保障当事人解释和申辩的权利。

判断有没有越界,也不能光看用了哪种工具、生成了多少字。高艳东觉得,更该看AI有没有替作者干本应由他承担的实质性研究工作,有没有造成误导。比如语言润色一般可以接受,可一旦改变了论证含义,作者就必须重新核查;辅助分析数据也不当然违规,前提是数据真实、方法适当、结果经得起验证。

这些要求对编辑自己也一样。杨萍萍介绍,出版社在安全环境里探索AI辅助初审,工具能提示稿件和期刊要求匹配不匹配,帮编辑发现值得关注的问题;一些流程性工作也能靠自动化提效,但工具替代不了编辑部做最终判断。

文章可以有AI参与,但成果不能由AI负责

这些年,国家陆续出台《关于推动学术期刊繁荣发展的意见》《国务院关于深入实施“人工智能+”行动的意见》等政策文件,接续实施“中国科技期刊卓越行动计划”,统筹推动人工智能融入科学研究、学术传播各环节。与之配套的“规矩”,也在慢慢立起来。

8月19日,《坚守科研诚信 共建一流期刊——中国科技期刊卓越行动计划维护学术诚信倡议》由中国科技期刊卓越行动计划入选期刊及集群联合发出。倡议第三条把话说明白:人工智能该用在哪儿、不该用在哪儿,得有边界。科研活动和学术出版中,AI只能起辅助作用,相关使用披露制度要建起来;用了什么工具、用到什么程度,须主动说明,让学术贡献的归属清清楚楚,责任也能追到人。

从今年开始,国内多家学术期刊接连推出各自的AI使用规范,包括西安交通大学期刊中心、《电子与信息学报》《法学教育研究》《哈尔滨学院学报》《当代教研论丛》等。中青报·中青网记者注意到,学界并不主张“一刀切”,态度始终偏向“把AI用在阳光下”。

西安交通大学期刊中心在8月10日发布的关于规范使用生成式人工智能的声明里提到,作者可以合规地用AI工具做辅助性、事务性工作,但仅限于提升研究质量和科研效率;只要在学术研究、论文撰写或修改中用到了AI工具,投稿时就须完整、如实披露工具名称、版本、使用环节及生成内容。哈尔滨学院10月15日就《哈尔滨学院学报》《当代教研论丛》两刊发布规范使用生成式人工智能的声明,明确作者须对来稿全部内容的真实性、原创性、学术规范性承担完全责任,不接受任何生成式人工智能工具作为论文署名作者。

吴頔也介绍了《科技通报》的做法:合理且透明的辅助润色、翻译、代码调试和文献检索是允许的;AI署名不行,编造数据、图片和参考文献不行,把核心创新和全文撰写交给AI也不行。

在吴頔看来,“关键不是‘用没用’,而是‘有没有如实说明、内容是否真实、作者是否负责’。”他说,期刊会在投稿时要求作者不得虚构或隐瞒生成式AI工具使用信息,作者要对该使用情况负责,并与期刊签署协议。

鄂海红在论坛上指出,润色、检索、图片编辑和表格制作这些工作,AI能提速,但学术观点的责任还得作者自己扛。杨萍萍也表示,英国物理学会出版社不允许AI成为作者,也不允许审稿人用AI工具生成审稿报告;论文的可靠性、评审的严谨性和科学判断,应分别由作者、审稿专家和编辑负责。

至于作者的披露声明该怎么写,高艳东提出,要说明工具用在什么环节、起了什么作用,以及作者做了哪些核查,而不是笼统地写一句“使用过人工智能”。

高艳东认为,眼下不同学科、不同期刊的具体要求还不一致,亟需把原则落成可执行的标准:哪些使用需要披露,披露到什么程度,哪些过程需要留存记录。“披露应服务于透明和问责,而非给使用者贴标签。”

使用AI工具编辑审阅未发表文章,还存在数据泄露的潜在风险。高艳东提醒,这些材料里可能有受试者个人信息、医疗记录、企业商业秘密。即便隐去了姓名,也不代表数据无法识别到个人,信息组合之后重新识别的可能性同样要考虑。

吴頔提到,尚未发表的论文不能整篇传到公共AI模型上;未公开的数据、核心观点,以及作者与审稿人的身份信息,都得保密。编辑、审稿人即便借助工具开展工作,也不能把未经核实的AI意见当成最终结论。

高艳东给出的办法是分类分级管理数据:哪些材料能喂给通用模型、哪些只可在受控环境中处理、哪些根本不许上传,都要划定清楚;同时要对服务商的数据留存、训练使用及跨境处理规则作出审查。高校这边也该拿出安全的替代工具,配上培训支持,让研究者有合规使用的条件。

高艳东说:“人工智能可以参与工作,但不能成为推卸责任的理由。”他还表示,既不能把使用人工智能一概视为不端,也不能因为它是新技术,就降低学术责任的标准。

中青报·中青网记者 王璟瑄

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. AI写论文变多,期刊编辑压力上升:论文变长,核查更难

    谈起这两年AI给编辑工作带来的变化,《科技通报》编辑吴頔最先想到的是“论文篇幅变长了,工作量变大了”。吴頔告诉中青报·中青网记者,以前的论文初审主要关注选题、格式和复制比。如今,编辑还要辨别语言是否空泛、论证有没有实质内容,以及那些格式规范的参考文献,能否找到真实存在的原文。吴頔遇到过一些稿件,语言流...

    来源 腾讯网
  2. 手机AI助手该用文字还是截图存记忆?论文给出动态选择方案

    你有没有遇到过这种情况:朋友跟你描述一个地方怎么走,说得特别详细,结果你到了现场还是找不到北。但要是朋友直接甩给你一张照片,你一眼就看明白了。反过来也有可能。有时候文字说明比照片更管用,比如朋友告诉你"进门右转第三个柜台",这比一张模糊的远景照片靠谱多了。这其实就是今天要聊的这篇论文想解决的问题。只不过...

    来源 腾讯网
  3. AI评分也要讲证据:ReVeR如何让裁判模型少跑偏

    你有没有想过一个问题:如果让两个AI评委分别打分,一个告诉你"回答A比回答B好",另一个告诉你"回答A得3.1分,回答B得2分",你更相信哪个?听起来好像没什么区别,无非是换了个表达方式。但这篇论文告诉你,这两种打分方式之间的差距,可能决定了你训练出来的AI模型是脚踏实地还是满嘴跑火车。这就是今天要聊的研究,一个叫..

    来源 腾讯网
  4. 亚马逊云科技Continuum:AI攻防提速下漏洞修复如何跑通

    Amazon Continuum:把“发现—排序—验证—修复”跑通今年10月,亚马逊云科技宣布针对代码漏洞的Amazon Continuum正式可用,该服务能够以机器速度发现、优先级排序、验证并修复安全风险。在发现阶段,Continuum分析代码库并形成候选漏洞发现,记录支持每个候选的源代码证据。江学森介绍,Conti

    来源 TechWeb
  5. Ring Drone Cam取消手动操控,AI Pilot全权接管飞行

    科技媒体 Android Headline 昨日(11 月 12 日)发布博文,报道称由于在演示过程中连续出现 2 次坠机故障,亚马逊旗下智能家居品牌 Ring 确认其首款安防无人机摄像头 Drone Cam 不再开放手动操控功能。

    来源 IT之家
  6. 腾讯云AI李牧青离职,出任启鸣达人联席CEO

    雷峰网独家获悉,近日,腾讯云 AI 全球业务负责人李牧青,正式出任教育 AI 科技公司启鸣达人联席 CEO。 雷峰网了解到,李牧青本科、硕士毕业于上海交通大学,曾任 UCLA 访问学者。2016 年,他加入依图科技,主导早期 AI 产业化体系的建设,亲历「AI 四小龙」从初创走向鼎盛。 2018 年,李牧青加入腾讯优图

    来源 AI 行业观察
  7. 腾讯百度同日谈AI重组:马化腾称非降本,李彦宏称岗位会收敛

    从腾讯到百度,AI驱动的组织变革,正从局部试验走向全面调整。 “生死存亡的时候。”11月11日晚,腾讯28周年的内部直播结束后,马化腾的讲话迅速在社交媒体传开。 网传他“全程黑脸”,管理层已很久没有说过如此严厉的话。关于“组织变革、人员调整”的言论迅速蔓延。他说这一次“目的不是降本,而是适应AI时代新的战场”,浪潮已经

    来源 AI 行业观察
  8. Nectar推AI代理:创作者筛选与外联管理如何实现自动化?

    TechCrunch报道,Nectar推出面向品牌的AI代理,用于自动化网红营销中的创作者发现与外联。该代理可帮助品牌筛选匹配创作者、管理沟通和合作关系,并追踪活动效果。文章认为,这体现网红营销正从人工筛选转向智能工作流,但品牌仍需在创意、合规和效果衡量上保留人工判断。

    来源 AI 行业观察
  9. AI 时代,公司的「新厂房」长什么样?

    十年前的百度世界 2016 大会上,李彦宏曾站在台上提出「AI is the New Electricity」(人工智能是新电能),提前预判了人工智能浪潮。那时,很少有人能想到,走进写字楼,程序员用 Agent 写代码,运营用 AI 跑报表,连行政都在用大模型搭报销流程。不过,索洛悖论也再次产生。你去问企业管理者,十有

    来源 腾讯网
  10. 亚马逊Ring首款安防无人机取消手动操控,AI全权接管

    IT之家 11 月 13 日消息,科技媒体 Android Headline 昨日(11 月 12 日)发布博文,报道称由于在演示过程中连续出现 2 次撞墙故障,亚马逊旗下智能家居品牌 Ring 确认其首款安防无人机摄像头 Drone Cam 不再开放手动操控功能。IT之家曾于 11 月 10 日报道,亚马逊 Ring

    来源 腾讯网
  11. Datadog Scout 模型:AI SRE 如何定位生产故障根因?

    作者 | Renato Losio译者 | 平川Datadog 发布 Scout,一个用于排查生产问题的模型。它在 Bits Investigation(该公司的 AI SRE 产品)中运行,能够接收告警、查看遥测数据并给出问题根因推测。Datadog 工程师和少量客户正在使用其封闭预览版。公告中描述的大部分工作都与成

    来源 腾讯网
  12. 英伟达芯片去向追踪:Megaspeed聘美律所盘点GPU库存

    【TechWeb】GPU到底去哪了?新加坡云计算企业Megaspeed于11月12日发布声明,宣布聘请一家美国律师事务所,对公司持有的全部GPU进行清点,并就出口管制合规措施开展独立核查。 这份由董事长兼首席执行官James Tan署名的声明中,Megaspeed强调"高度重视遵守美国出口管制法律",称合规是公司的首要

    来源 AI 行业观察
  13. 英伟达两封内部信:克雷斯安抚军心,琼斯确认治理新架构

    【TechWeb】33年创始人时代落幕后的第一夜,英伟达新任领导层用两封内部信,给出了两种截然不同的答卷:一封管情绪,一封管秩序。 据Business Insider获取的备忘录显示,临时CEO科莱特·克雷斯与公司首任董事会主席哈维·琼斯在黄仁勋辞职后第一时间致信全体员工。前者以"亲爱的NVIDIANs"开头,用"我相

    来源 AI 行业观察
  14. 黄仁勋卸任英伟达:AI算力格局会否重写?

    执掌英伟达三十余年的黄仁勋宣布卸任。这一消息震动整个AI产业:一家市值数万亿美元、几乎垄断AI算力的公司,突然要在没有灵魂人物的情形下寻找未来。WIRED播客《Uncanny Valley》特别节目拆解了这次交棒的来龙去脉,以及AMD、谷歌、亚马逊乃至众多自研芯片的科技巨头,能否真正撬动英伟达的城墙。

    来源 AI 科技快讯
  15. 快乐虾米App双端上线:AI写词作曲演唱一站完成

    36氪获悉,11月13日,阿里巴巴旗下AI音乐创作平台快乐虾米(HappyShrimp)正式上线App版本,同步登陆iOS与Android平台,覆盖AppStore及各大安卓应用商店。快乐虾米是一款面向大众用户的AI音乐创作与发现应用,用户只需描述想表达的情绪、故事或音乐风格,即可由AI完成歌词、作曲、编曲与演唱。

    来源 AI 行业观察
向下滚动自动加载更多