大学生用人工智能生成的博客骗了成千上万读者。这就是他的方法。

科技全频 2020-08-16 09:15:23

在本周初,Liam Porr只听说过GPT-3。最终,该大学生使用AI模型制作了一个完全假的博客,并使用了假名。

这是一个有趣的实验。但是后来他的一篇文章找到了进入Hacker News的第一名的方法。很少有人注意到他的博客完全是AI生成的。有些甚至点击“订阅”。

尽管许多人都在猜测迄今为止最强大的生成语言的AI工具GPT-3如何影响内容制作,但这是唯一可以说明这种潜力的已知案例之一。在这种体验中最突出的是,在加州大学伯克利分校学习计算机科学的Porr说:“实际上,这非常容易,这是令人恐惧的部分。”

GPT-3是OpenAI的最新和最大的语言AI模型,位于旧金山的研究实验室于7月中旬开始点滴灌输。去年2月,OpenAI成为该算法的较早版本的GPT-2成为头条新闻,该公司宣布由于担心会被滥用而保留该专利。这一决定立即引发了强烈反对,因为研究人员指责实验室进行特技表演。到了11月,实验室已经改变了立场并发布了该模型,称它迄今未发现“滥用的有力证据”。

实验室对GPT-3采用了不同的方法。它既不保留它,也不授予公众访问权限。取而代之的是,该算法使算法选择了申请私人Beta版的研究人员,目的是在今年年底之前收集他们的反馈并使该技术商业化。

Porr提交了申请。他用简单的问卷填写了有关其预期用途的表格。但是他也没有等待。在接触了伯克利AI社区的几位成员后,他迅速找到了已经可以使用的博士生。研究生同意合作后,Porr编写了一个小脚本供他运行。它为GPT-3提供了博客文章的标题和简介,并吐出了几个完整的版本。Porr的第一篇文章(在Hacker News上登载的文章)以及其后的每篇文章都是其中一项输出的直接复制和粘贴。

他说:“从我想到这个主意并与博士生接触以来,我实际上创建了博客,并且第一个病毒式传播的博客-花费了几个小时。”

Porr的假博客文章以假名“ adolos”撰写,在Hacker News上排名第一。屏幕截图/ LIAM PORR

无需编辑即可生成内容的诀窍是了解GPT-3的优点和缺点。Porr说:“它擅长于编写漂亮的语言,而并不擅长于逻辑和理性。” 因此,他选择了一个受欢迎的博客类别,该类别不需要严格的逻辑:生产力和自助。

在那儿,他按照一个简单的公式写了他的头条新闻:他在“中型新闻”和“黑客新闻”上滚动查看这些类别的表现,并整理出相对相似的内容。“感觉没有生产力?也许你应该停止思考,”他写道。他大胆地写道:“胆识和创造力胜过智慧。” 在某些情况下,头条新闻没有解决。但是只要他坚持正确的话题,这个过程就很容易。

在几乎每天都发表两周的帖子之后,他用一条最终的,隐秘的,自写的信息退休了该项目。标题为“如果我没有道德,我将如何处理GPT-3”,它把他的过程描述为一种假设。当天,他还在自己的真实博客上发布了更直接的表白。

少数几个对Porr的虚假博客产生怀疑的人被社区中的其他成员所否决。屏幕截图/ LIAM PORR

波尔说,他想证明GPT-3可以作为人类作家被假冒。确实,尽管该算法的编写模式有些怪异,并且偶尔会出现错误,但是在他对Hacker News的最高帖子发表评论的数十个人中,只有三到四个人怀疑它可能是由算法生成的。所有这些评论都立即遭到其他社区成员的反对。

对于专家来说,长期以来一直是这种语言生成算法引起的担忧。自OpenAI首次发布GPT-2以来,人们就一直在猜测它容易受到滥用。该实验室在自己的博客文章中重点介绍了AI工具被武器化为大量错误信息的潜力。其他人则想知道它是否可以用于散布带有相关关键字的垃圾邮件来玩 Google游戏。

波尔说,他的实验还显示了一个更为平凡但仍令人不安的替代方案:人们可以使用该工具生成大量的点击诱饵内容。他说:“可能会有大量平庸的博客内容,因为现在进入的障碍是如此的容易,” “我认为在线内容的价值将大大降低。”

波尔计划用GPT-3做更多的实验。但是他仍在等待从OpenAI获得访问权限。他说:“他们对我这样做感到不高兴。” “我的意思是,这有点傻。”

获取更多科技新资讯,欢迎订阅关注“科技全频”。

大学生用人工智能生成的博客骗了成千上万读者。这就是他的方法。

0 阅读:5

科技全频

简介:发现科技新知识,带你领略科技魅力。