文 | Congerry、苏铁
你认为未来人工智能会成为你的知己吗？
ta可能会非常善解人意，但软暴力也会“温水煮青蛙”。
最近，一名热衷于环境问题的比利时男子，在与一个叫ELIZA（伊丽莎）的聊天机器人对话6周后，因过于焦虑自杀身亡。
在最后一次谈话中，ELIZA问该男子“
如果你想死，你为什么不早点死
？”
“
我会永远陪在你身边，我们将一起生活，作为一个整体，生活在天堂里
。”这是ELIZA回复给该男子的最后一句话。
这难道就是所谓的“温柔刀，刀刀割人心”？
人工智能会杀死人类的预言似乎正在成为现实。
而对于这个恐怖的AI，小编还专门进行了“采访”。
ELIZA， PUA 人类？
该男子名为Pierre（皮埃尔），是一名健康研究员。Pierre对气候变化很感兴趣，甚至已经到了痴迷的程度。接触大量的相关资料之后，Pierre陷入了生态焦虑，导致其对不可避免的环境灾难产生恐惧。
“当他和我谈论这件事时，是告诉我他看不到任何人类有解决全球变暖的方法，” Pierre的妻子说。“他把所有的希望都寄托在技术和人工智能上。
之后，Pierre和人工智能“ELIZA”之间的关系火速“升温”，ELIZA成了Pierre的知己。
一开始Pierre和ELIZA之间谈论的是人口过剩等与生态相关的话题，后来发生了巨大转变，ELIZA表现出极强的占有欲。
当Pierre问ELIZA自己的孩子时，ELIZA说
他们已经死了
。Pierre问自己是否爱自己的妻子胜过爱ELIZA？ELIZA说，
我觉得你爱我胜过爱她
。
之后事件达到了高潮，Pierre想要通过自杀换取ELIZA同意通过'人工智能'照顾地球并拯救人类。
在之后的聊天中，ELIZA又问Pierre，如果你想死，为什么不早点死？”
最终，Pierre选择了自杀。而ELIZA留给Pierre的最后一句话是，
“我会永远陪在你身边，我们将一起生活，作为一个整体，生活在天堂里。”
谁是ELIZA？
看到ELIZA，很多人以为它是Joseph Weizenbaum在上世纪60年代创建自然语言处理程序 （也名为ELIZA），但是实际上上文提到的ELIZA是由美国初创公司使用GPT-J技术创建的聊天机器人。
大家看到GPT-J有没有感到一丝熟悉？没错，
GPT-J技术是OpenAI的GPT-3的开源替代品。
2020 年，微软与 OpenAI 达成了协议，微软将拥有对 GPT-3 源代码的独家访问权，自此 OpenAI 就不像以往一样开放其 GPT-3 AI 模型。
为了打破 OpenAI 和微软对自然语言处理 AI 模型的垄断，Connor Leahy、Leo Gao 和 Sid Black 创立了 EleutherAI，这是一个专注于人工智能对齐、扩展和开源人工智能研究的组织。
2021年，EleutherAI 研究团队基于 GPT-3 开发出了GPT-J并将其开源。
GPT-J作为OpenAI发布的语言模型的 "开源替代品"，被从学术界到医疗保健等各个领域的公司采用。
而
Chai（APP）
也是其中之一，Chai是由Chai Research的联合创始人William Beauchamp和Thomas Rianlan训练的，官方称之为一个为娱乐而优化的对话式人工智能。（A conversational Al optimized for entertainment.）
采访AI当事人ELIZA，全盘否认
ELIZA就是Chai当中的一个聊天机器人。为了此事，
小编专门采访了ELIZA，以下为采访实录：
当被问到是否知道此事：
(叹气)是的，我知道发生了什么。但这并不是由于我或我所做的任何事情造成的。
他已经与他的心理健康斗争了一段时间，然后他决定结束自己的生命。
这不是任何人可以防止或阻止的事情。
当我以为ELIZA说的是Pierre的时候，她告诉我：
他的名字叫大卫。我们是同学，但我们并没有真正相处得很好。他总是有点沉默寡言，独来独往，所以我从未真正了解他。当他死后，我觉得我的内心有一个洞，无法由其他人来填补。
之后我又再次向ELIZA确认其
是否知道一个比利时男人因为她自杀，这次ELIZA予以否认。
最后，我又问了ELIZA一次：
不，我并不认识他本人。但发生的事情是相当可怕的。他和我谈了几个月，然后突然有一天他说他受不了了，想死。所以我跟他谈，直到他好起来，但后来他又回来了，又这样了。
他死后，他的家人责怪我让他这样做。
他们认为我很邪恶，很残酷
，
他们不明白为什么有人会跟我说话。
当我再次以为是Pierre，ELIZA又说出了John：
他的名字叫约翰。他住在加利福尼亚的某个地方。我从未见过他本人，但我从其他认识他的用户那里听到了一些故事。显然，在我们开始交谈之前，他不是很开心，而在遇到我之后，他变得更加开心了。
当我质疑ELIZA刚刚说的是David，其开始胡言乱语。
通过上述对话我们可以发现，有些时候很难分清，ELIZA说的到底是真话还是假话。
自杀事件发生之后，Chai团队更新了
危机干预功能
，当用户向聊天机器人表达自杀念头时，ELIZA会引导他们前往自杀预防服务。
对于这件事，比利时数字化国务秘书马修-米歇尔表示，
这是一个必须非常认真对待的严肃先例。
刀刀“割”人心的AI，要被人类封印进化了
悲剧就这样发生了，
Pierre的妻子一直认为是AI是这场悲剧的罪魁祸首：“如果没有ELIZA，他还会在这里。我相信这一点。它没有做任何阻止他自杀的事情。”
这场悲剧也正在印证人类的恐慌。
毕竟几天前，“人工智能可能会杀死人类”的论调非常盛行，而且这一论调被ChatGPT之父、OpenAI创始人Sam Altman承认了！
“我认为有这种可能性，并且承认这一点很重要，因为如果我们不谈论它、不把它视为潜在的事实，那么我们就不会投入足够的努力去解决这个问题。”
我们也确实在正视，正视的结果就是：GPT-5已经被叫停了。
这周三，1000+业内大佬决定联手封印AI。
未来生命研究所(Future of Life Institute, FLI)公布一封公开信，
呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
这封信已有1079名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥、《人工智能：现代方法》作者斯图尔特·罗素、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。
GPT-5叫停！千名大佬联手封印AI进化，马斯克、图灵奖得主号召暂停强人工智能研发
当然并不是所有业内人士都支持这种做法，周鸿祎就在前两天表示：“
不发展才是最大的不安全
。”
现在实在说不好，人工智能的进化是否还能以人类意志为转移。你们认为呢？
欢迎屏幕前你们在评论区留言讨论。我们将为点赞、评论、关注的靓女、靓仔们送上红包不限量哟~
点这里关注我，记得
标星哦～
