NeurIPS因AI生成检测问题拒稿178篇论文,引发争议
文 / Mr.Xu 社区投稿
发布时间: · 7 次阅读
摘要:NeurIPS会议使用名为Pangram的专有AI检测工具,对提交的论文进行自动审查,并直接拒稿了18.4%的论文(约178篇),未经过人工评审或申诉流程。该事件引发了广泛争议:检测工具误判率高,甚至将会议主席的论文标记为AI生成;检测器默认设置过于严格,导致大量误报;非英语母语研究者受到严重歧视,因为他们的写作风格更易被误判为AI生成。
事件概述
NeurIPS会议在其Position Paper Track中引入了一种名为Pangram的专有AI检测工具,用于自动审查提交的论文。该工具直接拒稿了18.4%的论文(共计178篇),未经过任何人工评审或申诉流程。这一做法引发了学术界和AI社区的广泛争议。
主要问题
-
误判率高:独立研究人员使用Pangram对会议主席的论文进行测试,发现其被标记为AI生成的比例在24%至69%之间。根据会议的规定,这些论文也可能面临被拒稿的风险。
-
默认设置过于严格:Pangram的默认设置将几乎一半的论文标记为90-100% AI生成。为了降低拒稿率,会议方不得不缩小文本检测窗口,将拒稿率降至12.7%。
-
“循环陷阱”:22篇论文因检测分数超过0.5而被拒稿,但作者在提交时明确否认使用AI。这表明检测器的“黑箱”分数被用作证明作者撒谎的证据。
-
非英语母语研究者受歧视:斯坦福大学的一项研究表明,61.22%的人工撰写的TOEFL论文被误判为AI生成,因为非母语者的正式英语写作风格较为刻板。NeurIPS未发布任何人口统计校准数据,这意味着非英语母语研究者实际上是在“俄罗斯轮盘赌”中冒险。
应对建议
对于被拒稿的178篇论文的作者,目前没有黑名单记录,也没有不当行为的标记。建议这些作者将论文重新提交至ICLR(截止日期为9月25日)或ICML。
技术与伦理反思
这一事件凸显了AI检测工具在学术评审中的局限性,尤其是在处理非英语母语者或复杂文本时。过度依赖AI可能导致误判和不公平的结果,损害学术研究的公正性和多样性。未来的AI检测工具需要更透明、更准确的算法,并结合人工评审以确保评审的公平性和准确性。
—— 完 ——消息来源:Reddit r/MachineLearning (2026-09-08)
主题标签: #NeurIPS #AI检测 #学术评审 #Pangram #AI伦理
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区