谁在检测AI,谁也该经得起检测 | 新京报快评
AI检测工具标准不透明、判定不稳定、机制不严谨的问题,需要相关平台高度重视。▲近日,不少网友在社交平台反映,知网AI生成率检测结果波动明显。图/澎湃新闻文 | 赵亦安“10月24日中国知网更新人工智能生成内容(AIGC)检测算法(以下简称AI生成率),一模一样的论文内容在9月30日查是没事的,等到10月25日重新查一遍
AI检测工具标准不透明、判定不稳定、机制不严谨的问题,需要相关平台高度重视。
▲近日,不少网友在社交平台反映,知网AI生成率检测结果波动明显。图/澎湃新闻
“10月24日中国知网更新人工智能生成内容(AIGC)检测算法(以下简称
据澎湃新闻报道,近日,不少网友在社交平台反映,知网
为通过检测,许多学生不得不反复自费复测、不断修改文稿,甚至出现以AI对抗AI的“
当前,不少高校把
AI检测的结果之所以差异很大,根源在于AI检测技术本身存在明显局限。AI检测的判定方式,是依靠算法识别文本中常见的AI句式、表达习惯与行文风格,以此推算AI生成比例。但需要注意的是,绝大多数AI模型的训练素材,本身就是海量的已有文献、经典著作和规范范文。这就导致结构规范、逻辑通顺、表达严谨的人工原创文章,很容易被机器误判为AI生成内容。
此前,就有网友指出,一些经典文学作品,居然也被检出很高的
与此同时,部分检测平台兼具AI检测、
要规范学生AI使用行为,首先必须规范检测平台。包括知网在内的AI检测平台,应当主动公开AI生成内容的判定依据、判定标准和算法规则,做到可复核、可追溯、可检验,让检测结果透明可信。
公开、规范的检测标准,也是引导学生建立AI写作规范的前提。目前高校学术规范并非完全禁止学生使用AI工具,只是严禁AI代写。学校应当依托科学的检测标准,明确学生的AI使用边界。清晰的规则,能够引导学生正确、规范、适度使用AI工具,杜绝完全依赖AI代写的
除此之外,也必须理性看待AI检测的作用,不能过度依赖算法数据。AI检测只能发现文本表层的风格特征问题,无法识别文章的创新价值、学术思考和科研质量。单纯依靠机器判定,本身就是简单粗放的评价方式。
部分教师之所以依赖AI检测报告,本质上是因为它简化了教学指导工作,以机器结果代替人工评价。真正培养学生的学术规范与学术能力,保障论文原创性与写作质量,关键在于发挥教师的指导作用。教师应当对学生开展持续的学术训练、规范指导和论文反复修改打磨。如此,也就不必片面依赖AI检测判定原创性。
总而言之,AI检测工具标准不透明、判定不稳定、机制不严谨的问题,需要相关平台高度重视。只有让AI检测工具先经得起专业检验,建立公开可复核的判定体系,才能规范学生“
撰稿 / 赵亦安(媒体人)
编辑 / 柯锐
校对 / 张彦君