医学期刊正面临大量低质量AI生成内容的冲击,这种现象对科学界构成威胁,可能削弱救命健康研究的价值和可信度。引用虚构期刊和研究的论文频繁出现,引发了审稿人员的极大担忧。
近期,新英格兰医学杂志(NEJM)撤回了一篇由两位北京研究人员发表的论文。该论文报道了一名中国男子在森林火灾后肺部形成“支气管铸型”的病例,但后来发现作者使用AI工具篡改了论文中的一张照片。
被撤回的照片显示了从患者肺部冷冻取出的几乎漆黑、充满颗粒的支气管组织。据《MedPage Today》报道,这名87岁老人因吸入大量火灾烟雾被送往北京清华长庚医院急诊,支气管组织被烟尘颗粒完全堵塞,造成极其危险的气道阻塞。(《MedPage》随后在编辑说明中提及了撤稿事件。)
然而,照片中支气管组织上方的测量尺引发了质疑,尺上的数字排列混乱,显示出使用了不成熟的AI图像生成器的典型特征。
作者称此次失误是一次疏忽事故。
在撤稿声明中,他们写道:“我们不了解期刊关于图片处理的规定,使用了人工智能工具将尺子移动到了图片顶部。”
“因此,我们决定撤回该图片及病例报告。”
这一错误提醒研究人员警惕。如果仅仅移动尺子就会导致如此严重的AI生成错误,那么其他有意或无意的篡改又会有多少被忽视?
部分社交媒体用户也质疑该照片的其他部分,指出照片中患者肺部的片段数量过多,暗示图像可能还被AI以其他方式篡改。
作者回应称,患者当时情况危急,拍摄时尺子是倾斜放置的,他们只是调整了尺子的位置以使图片更美观、更易读,没有篡改其他临床图像内容。

他们表示所有原始临床资料已提交给NEJM编辑部,不便再次单独提供。撤稿声明是根据期刊建议起草的。
作者强调,他们没有修改尺子上的混乱数字,原意是确保信息真实可追溯。虽然可以轻易用AI修正尺子刻度,但他们没有这么做,始终保持临床信息的真实性和可追溯性。
他们承认未充分了解期刊相关规定,对此表示诚挚歉意。
作者补充说明,他们仅调整了尺子的角度和位置,尺子本身的刻度准确,数字混乱是调整位置造成的。他们没有用AI修正数字,尺子并非AI生成。
NEJM编辑附注强调:“作者必须披露任何AI工具的使用及对图片的修改。”
期刊编辑政策规定,任何使用“大型语言模型、聊天机器人或图像生成器”的情况都必须在投稿时披露。
政策警告:“作者应仔细审查和编辑所有AI生成的材料,防止提交错误、不完整或有偏见的权威性内容。”
科学界编辑们正准备应对大量低质内容的冲击。
《科学》杂志在一篇社论中写道:“科学界对文献腐败的警惕日益增强,这成为追求真理的重要组成部分。经过多重人工审查的严谨论文发表,以及对错误论文的撤回和更正,比以往任何时候都更为重要。”


