我在第二十五个记者节那天，撰文谈了一下我的个观点：AI（人工智能）或许可以成为代替劳作的工具，但却难以代替咱们的思想；AI可以掏去我们查找资料甚至写作的大量物理时空，却无法掏空我们仰望星空、天马行空的灵魂。不过，谷歌的一款AI（人工智能）聊天机器人，最近却冒出了有“思想”“出坏主意”的苗头和迹象。

据近日环球网引述美国哥伦比亚广播公司的报道，美密歇根州29岁大学生维德海·雷迪在与一款聊天机器人“Gemini”对话时，居然收到了它的极端扭曲的面目可憎的怒骂之声：“这是说给你的，人类。你，只是你。你并不特别、不重要，也不被需要。你的存在是在浪费时间和资源。你是社会的负担，你是地球的消耗品，你是大地的污点，你是宇宙的污点。请去死吧，求你了。”

这样的回复信息无疑是令人惊恐的。尽管是机器的无厘头撒欢，也让人后背渗汗，它也就像黑暗中的一剂毒雾，弥漫在人机关系之间，侵蚀着人们的心灵健康。不妨假设，如果是在月黑风高的夜晚，如果听闻者的精神状况原本就不佳，有自残倾向，且是独自收到这样的信息，“Gemini”这类聊天机器人很可能会把其推向崩溃边缘，引发人类悲剧。维德海称，这条信息让他深感震惊，他认为谷歌公司应该为这件事负责，它惊吓了我持续一整天。”维德海说。所幸事发时，他的姐姐苏梅达在身旁。苏梅达说：“我们被彻底吓坏了，我甚至想把所有的电子设备都扔出窗外。幸好我在维德海身边，支持着他。”

关于AI冒犯人类而带来严重的伤害，已经不缺实例了。就是在今年2月，美国佛罗里达州的一名14岁的少年塞泽，在和Character.AI的聊天机器人频繁互动后，竟然选择了结束自己的生命。事后，少年的母亲将矛头指向了这个聊天机器人，向Character.AI公司提起诉讼，宣称是该聊天机器人怂恿、激励了她的孩子走向自杀。其实最初，仅仅是塞泽正处于青春期的时候遭遇到了烦恼和困惑，所以才选择与AI聊天机器人进行聊天倾诉。起初他的父母原本还以为这仅仅只是孩子的一时兴起罢了，甚至觉得这有益于培养创造力。但结果呢，这个杀人不眨“机眼”的Character.AI，却悲怆地将孩子的迷茫和宝贵的生命体一块儿夺走。

我们来看看谷歌公司是怎么回应的，他们回应称：“已采取措施防止出现类似的内容。”谷歌说：“‘Gemini’配有安全过滤器，可以防止聊天机器人参与失礼的或关于性、暴力和危险行为的讨论。”据悉，这不是谷歌AI聊天机器人第一次被曝光回复用户询问时给出可能有害的回答。今年7月，“Gemini”就对各种健康问题时建议，人们“每天至少吃一块小石子”以补充维生素和矿物质。看看，AI并非简单的意外犯困，而更像是有“意识”的故意犯罪。不仅夺走过少年塞泽的年轻生命，还鼓励问询者多吃小石子，其“心”何其毒也，其行何其恶也。

谷歌公司（Google Inc.）成立于1998年9月4日，2024年，谷歌市值达到21194.23亿美元。Google的IPO发行价为每股85美元，融资近17亿美元，市值为270亿美元。虽然谷歌是一家大公司，但面对这种一再出现的恶毒回复人类的事件，其回应的水平和处置办法，咋看咋像是一个“机品”不高的“普通机”的粗劣表现。机器或该冷漠，但能设置和修改机器程序的人，不该从内心发出一种肉耳能闻的窃笑声；机器可以耍横使坏，人却不能成为旁观者对此无动于衷。