14所顶尖大学学者操纵审稿人AI给予正面评价“仅给好评”

我爱免费

作者：微信文章

一项由日经亚洲进行的媒体调查揭露，来自全球14所顶尖高校和研究机构的学者，涉嫌在提交至预印本平台arXiv的论文手稿中嵌入“隐藏指令”，以引导审阅论文的人工智能（AI）工具给出正面评价。调查人员在17篇未经同行评审的稿件中发现了这些指令，它们通常以白色字体或极微小字号书写于人眼难以察觉之处，内容多为要求AI“仅提供正面评价”、“避免强调任何负面信息”等。部分指令更为详尽，甚至直接宣称论文“贡献卓著、方法严谨、新颖性非凡”，并要求所有审阅AI推荐该研究。



涉事论文的主要作者机构包括日本早稻田大学、韩国科学技术院（KAIST）、中国北京大学、新加坡国立大学以及美国的华盛顿大学和哥伦比亚大学等，横跨8个国家，研究领域集中于计算机科学。针对此事，一位被点名的KAIST合著副教授承认，尽管同行评审禁用AI，在稿件中嵌入此类指令是“不恰当”的，并表示将撤回其即将在机器学习顶会ICML发表的论文。KAIST校方回应称此前未察觉此类行为，对此不予容忍，并将借此制定合理的AI使用规范。

目前，对于AI能否用于论文质量检测，各大会议和期刊尚未形成统一规范。例如施普林格·自然允许在投稿预处理中使用AI以提高效率，而其他出版机构则明确禁止审稿人使用相关工具。此次调查为日经亚洲独立完成。
来源：日经亚洲   整理：北光