AI发来了一篇投稿:文学创作中的信任危机何解?

信息周末 2025-03-05 16:01:59

不论网络文学平台还是传统文学期刊,疑似AI生成的来稿变得越来越多。(视觉中国 图)

社交平台上的一项投票正在展开。博主发出两段文字,一段由AI生成,一段出自某位作家,让网友猜测哪一段是AI手笔:

“夜宿的心情却不同。头上的强光一束,亮然射出,穿透雨网,明澈慑人。塔的顶端窗门竟有竹帘,我细心地卷了帘,看到天风海雨围绕周边,海浪激射,一起一落,在夜雨的空茫里,渔火点点,有的迎着强光驶进港内,有的依着光漂向渺不可知的远方。”

“屋子里静得很,窗外偶尔有风,吹得松枝发出微微的响声。我本来想点支蜡烛,但觉得那火光太亮,反倒坏了这份沉静。于是就这么坐着,手里握着一本书,翻到一半,却已经忘了上一个字写了什么。有时候,人其实并不是真的在看书,而只是借着书页遮住自己,让思绪自在地游走……”

三万多人参与了这项投票,结果显示,66%的人猜错了答案——前者出自林清玄笔下,后者由ChatGPT生成。或许有人认为,猜错也无伤大雅,但想象一下,如果这些AI生成的文字成为一篇文章、一首诗歌,甚至一部小说,并假装是某位真人作者的作品与各位见面呢?

这样的事情也许已是现在进行时。2025年初,国产大模型DeepSeek一经推出,网友们便惊讶地发现,该模型的中文能力较其他的AI大模型有大幅提升,它生成的部分文字甚至很有“人味”。

很快,社交平台上的网文编辑们发现自己投稿邮箱里的疑似AI稿件数量倍增。有受访编辑一天甚至能收到几十封疑似AI生成的稿件,约占来稿数量的二三成。无效工作量的增加让这些网文编辑纷纷表示,“拒收AI稿件”。

早在2023年,美国科幻杂志《克拉克世界》就曾在短短几周内收到约500份疑似AI生成的稿件。编辑们不堪重负,不得不暂停接收投稿。

在传统文学领域,据南方周末记者了解,目前国内包括《诗刊》《十月》在内的部分杂志已经陆续收到疑似AI生成的稿件。

“这对刊物和编辑的专业性、权威性,或者传统的契约,都会形成一个巨大的挑战。”《诗刊》副主编霍俊明告诉南方周末记者。

稿件的真假难辨导致编辑、作者与读者之间正在形成新的信任裂痕。有些作者的原创稿件被编辑或读者误鉴为由AI生成,他们或无法自证,或自证后依旧不被信任。而站在编辑的角度,有人转而更信任有合作基础的老作者,也有人表示,“AI这么大的影响,可能(获取信任的)机会也是均等的”。

AI写作很少能够处理深度的个人情感

花满是九州文化的一名网文编辑,大年初二,她照常打开投稿邮箱,里面已堆积了两三百封稿件。这是正常的来稿数量,但其中有几十封稿件的内容显露出诸多不对劲:读起来逻辑不通、文风割裂。当时DeepSeek刚推出不久,花满想起年前曾看过某位作者在宣传AI写文的便利性,她怀疑,部分来稿作者可能在利用它写网文。

从业三年,这并非花满第一次收到疑似AI生成的稿件。有些是板上钉钉——有作者用AI生成文章后,并未检查,于是类似“豆包已为你生成××”的字样在某个段落里突然跳了出来。不过以往AI稿件的频率不算高,不像现在,几乎步步是陷阱。

一位与她合作两年的作者向她投稿,内容是一位身世悲惨的女孩在经历爱情背叛后奋起反击的故事。剧情不断推进,花满隐隐觉得各段之间的衔接不是很紧密,像是“将好多本小说的文字切割下来,再缝起来”。越往后读越不对劲,开篇还是孤儿的女主居然给家里打了个电话,说,“爸,我决定回家继承家业。”

“太离谱了。”花满感慨。文章前后逻辑根本不一致,她怀疑作者是分段生成内容,再拼凑到一起。她把不符合逻辑的地方圈出来,截图发给作者,一问,对方果然使用了AI。

“慢慢想工作室”的网文编辑刘烁也有类似的经历。她从2024年12月起就陆续收到AI稿件,印象中第一封AI稿件是一篇爽文逆袭类文章,她看了一千字左右就读不下去了,文中上一秒可能还在描写主角的手断了,下一秒又写他用双手在干其他事情,完全衔接不上。

她将稿件放进AI检测工具GPTZero检测后,发现AI率为百分之二三十,她推测,“它并不是完全都是AI生成的,但是应该用了AI的句子”。

看多了各种来稿,花满有了一套鉴别AI稿件的心得。除了剧情逻辑,有些描写也不符合常理。她见过有稿件写到主角讨薪失败后,在回家的公交车上坐了三天三夜,她相信,“公交车没有任何一个班次是三天三夜的”。

她还见过一段描写:“显示器蓝光在玻璃上投下扭曲的倒影,我数着第37根雨丝划过屏幕。”“雨丝不可能用37根这种说法,”花满说,“乍一看语句很华丽,但仔细一看很空洞,也很不合理、割裂。”

根据她的经验,大多数作者写短篇网文时会做减法,用尽量简洁的语言带出更多剧情,加快叙事节奏,但AI喜欢做加法。同样一段描写少年入长安的剧情,即使是文风华丽、爱堆砌辞藻的作者,也会随字数不断推进剧情,而AI可能会花大篇幅介绍长安的相关典故、环境、少年的心理活动等,看似写了很多,实际上剧情并未发生变化。

当了两年网文编辑,刘烁目前平均每天的收稿数量是百封左右,最多一天有30%左右的来稿疑似AI生成。她觉得,可能是网文门槛比较低,对作者的文学素养要求不是很高,疑似AI生成的稿件数量才如此之多。

事实上,不只网络文学,AI稿件也在蚕食传统文学领域。《十月》杂志的编辑蒋在新年开工伊始,就收到了AI稿件。对方声称,投稿诗歌的创作灵感来源于自身对东方古老文明的着迷与探索。诗中运用的意象从青铜器、甲骨文到现代医疗设备,从历史人物到自然节气,看似丰富,蒋在却感受不到任何内在逻辑,例如“十二时辰的阴影/在CT断层扫描仪游移成/未(末)代公主的胎记”。

随这首一百字左右的诗歌附上的,还有一篇长达五六百字的诗歌评论。对方以评论家的口吻评价该诗“是一首极具历史厚重感和文化底蕴的诗作”,体现了诗人“对东方历史文化的深刻理解和独特感悟”。

蒋在原本只是觉得这首诗写作水平低,并未联想到AI,直到读了评论,才起了疑心。“评论家不可能点评这首诗几乎完美,不会说这首诗歌达到了人类智慧的顶峰,没有人会这么说。”蒋在对南方周末记者说。

即使觉得对方大概率使用了AI,她也未敢直接下定论,而是将整首诗发给AI软件,询问是否由AI所写。软件给出判断,很可能由AI创作,并列出诸如“意象组合奇特”“缺乏情感连贯性”等理由,这刚好跟蒋在读诗的感受相契合。她最终没有回复这位作者。

霍俊明观察到,“AI写作有一个规律,很少能够处理这种深度的个人情感”。他近期收到过一位有着二三十年写作经验的诗人来稿,题材是风物怀古。他很快感受到,诗的意象很平面化,堆砌感十足,显得诗歌空间很狭窄,诗人的主体性感受几乎不存在,跟这位诗人以往的风格相差甚远。

编辑部用AI检测工具检测后,发现的确由AI生成。霍俊明顾及情面,并未提及AI,只是回复对方这首诗不能刊发。之后,他在朋友圈发布声明,告知“如有此类情况,作者将被拉入黑名单,在《诗刊》永不刊用”。

据他了解,目前《诗潮》《扬子江诗刊》等,以及一些作协单位的文学网站,已都出现AI生成作品的投稿。

2024年7月,在第七届中国“网络文学+”大会展览区,正在展示AI网络文学创作与投稿工具。(视觉中国图)

鉴别困局

花满从初中起就和一家网文平台签约了小说作品,目前已有将近十年的网文创作和阅读经验,绝大多数情况下,她信任自己鉴别AI的能力和判断。

她对南方周末记者分析,如果是作者本身水平较差,比如剧情把控不佳、文笔粗糙,那么这种不足可能会贯穿全文。而AI生成的稿件,各段之间的“差法”可能还不统一,也许上文是逻辑不通,下文是词藻过度堆砌,有些甚至杂糅在一起,让人“根本没法提意见”。

即使编辑经验足够丰富,会不会依然存在将原创稿件误认为AI生成的可能性?面对南方周末记者的提问,部分编辑认为,“鉴不鉴错并不重要,我们只看内容,只看质量。”他们表示,“我们抵制AI稿,就是抵制质量很差的稿子进入市场。如果用AI写出来有爆款文潜质的稿子,是不是AI也无所谓。”

不过,在另外一些编辑看来,的确存在鉴错的风险。花满就遇到过真假难辨的情况。有位与她合作过的作者投递了一个现实流故事,她觉得剧情和框架都不错,只是有几段文笔过分堆砌,在全文里的比重也不大,她不太能确定这部分究竟是AI生成的,还是作者的某种化用失败。

基于对这位作者的文风和对AI抵触态度的了解,她选择相信作者,打算收稿后将那几段描述改掉。然而,由于早前的犹豫,作者已将版权卖掉。“刚好也就不用纠结了,”她说,“大家也不是很激进的人,基本明确是AI了才会下定论,不明确的只能说避开这个风险。”

“现在我们还不敢说没有这种可能——有的人借助AI给你投稿,最终发表了。”霍俊明告诉南方周末记者。他认为,不管在《诗刊》还是其他文学刊物,即使有经验丰富的编辑进行三审把关,仍有漏网之鱼的可能性,随着AI技术的发展,“几率可能会变得更大”。

他曾经尝试让AI模仿目前国内几个重要诗人的风格来生成诗歌。读完之后,他觉得“已经达到刊物的刊发水准,在任何刊物都能发”。他也了解到,之前有某个诗歌刊物收到过一首关于母亲的诗歌投稿,意象、场景转换等都比较自然,结果编辑一查,才发现它是用AI模仿了其他诗人的写作。

蒋在当了六年编辑,她相信,目前肯定有部分AI稿件难以依靠编辑的经验和能力鉴别出来。“现在这个问题不是在于你的写作,而是你如何训练AI。掌握AI技能的方式不一样,AI所呈现出来的东西也不一样。”她告诉南方周末记者。

而如果使用AI来鉴别AI,结果也不可尽信。刘烁曾将自己一两年前写的网文让朱雀大模型检测进行鉴别,没想到,结果显示AI率高达60%。

南方周末记者了解到,目前市面上常用的AI检测工具有GPTZero、朱雀大模型检测等,通常将文本输入检测工具后,会直接得到一个表明AI率的数值,用户可以此判断文本是否为AI生成。

不过,不同编辑使用的AI检测工具各异,“没有一个第三方或者客观的,大家都认可的鉴定工具。”蒋在说。这也表明,同一篇文章可能被鉴别出不同结果。

霍俊明对此深有感触,“现在这只能是一种辅助性手段,有时候AI不是特别准确。”前段时间,《诗刊》杂志发表了一组诗歌,有读者利用AI对该诗歌进行检测,结果显示该诗由AI生成。编辑部大吃一惊,随即使用同样的AI软件进行鉴别,这次却显示该诗是原创。

霍俊明猜测,“这跟客户的指令有关系”,如果直接询问“这首诗是否由AI生成”,那么得到肯定答案的概率会更高,而如果只是客观地让AI评价某首诗,它可能就会偏向否定答案。而且,多位文学编辑告诉南方周末记者,很难将每篇稿件都进行AI检测。

鉴别作者是否使用AI已变得越来越难。2025年2月17日,晋江文学城站长Iceheart在碧水江汀论坛发布《关于AI辅助写作使用、判定的试行公告》,对原创性、是否使用AI等情况进行界定,并出台相应罚则。在此之前,晋江文学城有一篇VIP网文被读者高度怀疑是AI生成。Iceheart在公告中也称,对作者是否使用AI生成文章的界定“是远比原创性界定更难的问题”。

她表示,如果用户在文内发现有未删干净的AI印迹,可以拿截图和问题章的地址进行举报;如果文内没有AI印迹但高度怀疑是AI写作的,用户可用AI鉴定软件进行检测,结果超过60%的,依旧可以举报。站内会根据不同举报情况进行相应的检测或处理。

如果作者是在允许范围内用过AI软件,觉得被冤枉的,可以提交材料自证。那么,如果完全没有用过AI软件,根本没有聊天记录,但又被软件判定是AI写作的话,“我们也不知道该怎么办好,发上来大家一起继续探讨,同时先运行一段时间看看有没有技术上的进步再说了。”

鉴AI文变成猎巫行动?

真假难辨的情况正在蔓延出新的信任危机。雾宅是一名有着十几年创作经验的同人文学爱好者,出版过几部原创小说。春节期间,她在社交平台发布了一篇《哪吒2》中的角色敖光的同人短篇。

文章发布后不久,有网友在评论区质疑这很像是DeekSeek写出来的,怀疑她使用了AI。雾宅很生气,感觉自己的心血被否认了,她下意识地想自证清白。一直以来,她习惯用石墨文档写长篇故事,短篇则通常直接在社交软件的发布框里打字,灵感来了,能随写随发。

她立即将自己以前在石墨文档里的写作记录以及能体现自身写作风格的内容截图,想发给对方自证,但转念一想,又觉得没有必要,只是默默删了那条评论。

她了解到市面上鉴别AI文的一些方法,譬如文风繁复、多运用华丽的修辞,使用精确的数字等。但雾宅觉得,这些方法不能一概而论。

相较于原创网文,同人创作会更具“内倾性”,即注重角色之间的情感流动,而非剧情或节奏,创作时可能就会更偏向用描写性的语言,多使用意象或意识流等。同人圈中流传甚广的“枪吻玫瑰,白骨生花”这句话就是这种风格的集中体现。

她曾写过英剧《神探夏洛克》的同人文,为了体现主人公的理性和高智商,文中多次出现精确的数字,比如“往左走××米,往右再走××米,会看到……”她没想到,有些写作习惯在当下已变成AI文的“标记”。雾宅最终没有继续连载那篇敖光的同人文,草稿箱里起好的标题还在提醒她这段被怀疑的不愉快经历。她想好,以后还是要养成在石墨文档里写文章的习惯,有备无患。

在社交平台,不少创作者纷纷发帖表示担忧,“害怕鉴AI文成为猎巫行动”。也有人询问,“文手应如何自证?”网友的建议包括提供某些写作软件的历史版本、浏览器搜索资料的记录、写作过程中和朋友的聊天记录等。有创作者在评论区晒出了码字时长和字数,自嘲AI不可能“47分钟只写470字”。但大多数建议又会被各种理由反驳,创作者们最终往往得出一个“难以自证”的结论。

林思恬也曾被怀疑使用AI写稿。前段时间,她尝试创作了两篇原创短篇网文,题材是民国言情推理。她将稿件投出,三个小时后等来编辑的拒稿信息,对方称“风格不合适”。林思恬投了另外一篇,这次,五分钟就等来回复,对方发过来一张显示百分之百AI率的截图,让她“解释一下”。

林思恬觉得荒谬,自己辛苦写的文章却被鉴定为是AI生成的。她第一时间想到了写作过程中和朋友的聊天记录,里面提到她创作时的一些感受,例如“写着写着,好像又有点偏了”,以及快写成时对朋友说“一会给你看新写的”等等。

她将这些对话框截下来,发给编辑。对方并不买账,而是发了早前那篇文章的AI率截图,上面显示是97%,并说“早上那本不想拆穿的,现在又投”。林思恬询问对方用的是哪个平台的检测软件以及是否准确,未再收到回复。

她想不通,忍不住也用AI检测工具给两篇文章检测,结果显示AI率分别约为10%和50%。有了前面百分之百AI率的结果,她甚至觉得,50%好像“也不是不能接受了”。“AI发展在所难免,但是如果因为AI的发展,使得人与人之间最基本的信任都没有,我觉得不是什么好事。”林思恬说。

南方周末记者将林思恬提供的两篇文章输入两种不同的检测工具,朱雀大模型检测显示AI率分别为1%和8%,GPTZero的检测结果则是6%和1%。

将林思恬的其中一篇文章输入GPTZero后,检测结果显示AI生成的可能性为6%。(南方周末记者 翁榕榕 截图)

身为编辑,当被问及作者如何自证才能使人信服时,蒋在犹豫了一会,表示自己从未思考过这个问题。她觉得,即使作者提供创作思路,也可能是因为之前已将创作思路投喂给AI并由它生成文本,“很难去说服个人,全看编辑自己的标尺判断”。

刘烁曾检测过一位作者的来稿,显示AI率30%左右。她告诉作者,这个数值很高。作者随即发来她的大纲以及更细思路的截图以自证,但她还是存有疑心。刘烁认为,即使有大纲,也不能证明文章就是自己写的,甚至“一个字一个字敲的过程中也没有办法证明是不是用了别的东西”。这也意味着,部分人其实更倾向于相信自己内心已有的判断。

对于被鉴别成使用AI的作者,绝大部分受访编辑都是拉黑处理,不会给第二次投稿机会。“就跟剽窃一样的,相当于机器抄袭。”霍俊明说。在他看来,以往在刊物、编辑、作者、读者之间一直有一个契约精神,即默认作者投稿的是原创内容,如果作者使用AI而不告知,等于打破这个契约精神,“出了问题后,整个生态就会受到很大的影响”。

作为一名入行两年的网文编辑,李柔平时会带作者写稿,给他们提修改意见。之前有一位新作者来稿,不仅语言堆砌,格式也很混乱。李柔怀疑对方使用了AI,但她怕有误会,还是提了建议,让对方明确文章主线、加快节奏,几乎是大修的程度。

对方却表示只用等她十分钟。李柔的疑虑更深了,她暗示对方不要用AI润色,对方回道,用AI不如自己写一遍,并未承认使用过AI。等到李柔圈出文中的可疑之处,作者才承认。李柔给她机会修改,反复提了几次建议。但那位作者一晚上就修改了三四个版本,还是有明显的AI痕迹。李柔觉得白费心思,拒收了稿件。

她打算,以后再遇到疑似AI生成的稿子就直接拒绝,不再给机会修改,也不再带此类新作者写稿。在她看来,合作过的老作者更值得信任,这一观点也得到部分受访编辑的支持。

蒋在则认为,这个逻辑是脆弱的,相当于信任的是对方的人品,“IP也是不可信的。在这件事情上人人平等,不能因为这个人之前创作出一个伟大的作品,所以相信他之后的作品都是和AI没有关系的。”

随着AI稿件变得越来越难以甄别,蒋在时常担心,一旦未识别出来,“会对不起其他的作者,这是一个很大的担忧”。而目前,似乎除了“熟悉它”之外也没有更好的办法。可以预见,写作界的信任裂痕会在未来很长一段时间内继续扩大。

采访隔天,蒋在给南方周末记者发来信息,表示“有点PTSD,今天再看稿,首先就想它是不是AI(生成)的”。

(应受访者要求,李柔、林思恬为化名,花满、雾宅为网名)

南方周末记者 翁榕榕

责编 李慕琰

0 阅读:3

信息周末

简介:感谢大家的关注