本应收录各领域顶尖研究报告的学术期刊,相继被发现刊登人工智能(AI)生成的低质量论文和虚假图像。
滥用AI导致学术期刊质量降低
今年初,学术期刊《细胞与发育生物学前沿》(Frontiers in Cell and Developmental Biology)刊登的一篇论文配有一张AI生成插图,插图中的老鼠生殖器异常巨大,引发热议和批评,出版方后来撤下论文。上个月被撤回的另一篇论文,则附上由AI生成、有多个关节的腿骨图像,被指不像腿反而更像手。
伦敦大学学院一名图书管理员格雷,根据AI聊天机器人ChatGPT生成文章偏好的用词,搜查了数百万篇论文后,判断2023年有至少6万篇论文使用了AI,占全年总数的1%以上。他预计,今年的数量还会显著增加。
美国非盈利组织“撤稿观察”(Retraction Watch)则指出,去年有超过1万3000多篇论文被撤下,是至今最多的。组织联合创始人欧兰斯基说,AI工具让科学出版界和学术界的不良分子把垃圾论文“产业化”,导致垃圾论文进一步泛滥。
荷兰研究员比克说,所有研究论文中,据信有约2%是由大量生产质量极差、剽窃或伪造论文的论文工厂所发表,而AI的启用使这一比率呈爆炸性增长。除了论文工厂,面对出版压力的学者们为了增加产出提升绩效,也纷纷借助AI写论文,促成了恶性循环。
滥用AI的例子层出不穷,美国杨百翰大学生物信息学教授佩恩近日透露,他今年3月被要求对一份论文进行同行评审,结果发现论文剽窃了他已发表过的研究,只不过经由ChatGPT改变了词句。比克说,滥用AI导致论文出现更多错误和抄袭行为,这可能使社会大众逐渐对科学研究失去信任。