近期，我有一个朋友，他是一位编剧。有一天，他打电话给我，语气紧张地说：“我只剩下三年时间了，也许幸运的话，可能是五年。”他得到了一个特殊的机会，可以测试一款正在开发中的剧本人工智能。他描述了这个新项目：主角、情节、氛围，几分钟后，整部剧集就被创作完成，可以直接拍摄了。然后，他让人工智能给他的剧本提出修改建议，结果让他大吃一惊——这些建议既聪明又有创意，而且完全颠覆了一集的结局，最终整部剧集变得非常出色。他停顿了一下，然后重复说，他只有三年的时间，必须赶在这个“聪明的”人工智能取代他之前。

曾经有学者参加过一个实验，后来在一次演讲中分享了这个经历，并在一本名为《我的算法和我》的小册子中发表了这段经历。但是，随着技术的飞速发展，这本书已经过时了，就好像它来自另一个时代一样，就像是关于第一次铁路建设或者双翼飞机首飞的报道。

不到四年前，人工智能还是一个结巴、困惑、可怜的存在。如果它继续以这种速度发展下去，我们将面临一些我们没有本能准备的事情。证据就是我们没有感到恐慌。我没有，你可能也没有，但比起面对海啸时的平静，或者引用人工智能研究员利奥波德·阿申布伦纳的话说：“现在，也许只有几百人有态势感知。”其中一位是最近去世的丹尼尔·丹尼特，他曾在一次专家会议上告诉我们，要尽一切努力警告决策者。

然而，我不想过于夸大我们正在经历的这场革命。我相信在我的一生中，没有任何事情像人类思想领域发生的事情那样令人着迷。我们实现了梦想：让语言本身说话。但语言本身说的话往往并不愉快：人工智能公司不得不雇佣数百名低薪工人，强行控制大型语言模型，避免说出愤怒、侮辱和讨厌的话——现在所谓的聊天机器人必须保持礼貌、平静，这需要大量的过滤。雅克·拉康是对的；语言在其深处是黑暗和淫秽的。

人类的伟大发现总是提醒我们，我们并非自己的主人：哥白尼证明地球不是宇宙的中心，达尔文打破了神创论，弗洛伊德揭示了我们对欲望的无知和无控制。人工智能的羞辱更为微妙，但同样深刻：我们证明，我们并不是必要的，我们认为是人类深思熟虑的智力活动，可以在统计学的基础上自动化，用海德格尔的话说，“闲聊”实际上不需要我们，而且听起来合理、机智、肤浅和富有同情心——只有到那时，我们才真正明白，它一直都是这样的：大多数时候，我们都在自动驾驶仪上交流。

我开始使用大型语言模型以来，我实际上感受到了它的力量：在社交活动中，闲聊中，突然间，GPT的刺激下，一个词语唤起另一个词语，一个句子引出另一个句子，我意识到，说话的不是我，不是我作为一个独立的个体，而是对话本身在发生。当然，我们仍然有“系统2”，真正的智力工作，创造出原创见解和真正的作品，这可能是任何人工智能即使在未来也无法夺走的。但在“系统1”的领域，我们的大部分时间都在这里度过，而且许多不是一流的文化产品都是在这里创造出来的，情况就完全不同了。

人工智能可以创造巨额利润，利润的规模简直是超现实的。未来几年，最大的数字增长市场可能是人工朋友和伴侣。如果你想要证据，看看专门从事这方面业务的 Replika 公司的股价，或者听听 OpenAI 的创始人萨姆·奥尔特曼在2023年11月接受《纽约时报》采访时向我们保证，他不会创造虚拟恋人，然后仅仅几个月后，他的公司展示了一个演示，其中包括 ChatGPT 的一个新的、轻浮的女性声音，这正是缺乏安全感的年轻男性所希望的女朋友。

未来的娱乐产品：虚拟人物，他们非常了解我们，与我们分享生活，在我们悲伤的时候鼓励我们，在我们开玩笑的时候笑，或者告诉我们我们可以笑的笑话，永远站在我们这边，反对外面残酷的世界，永远触手可及，永远可以被抛弃，没有自己的欲望，没有需求，没有与真人维持关系所带来的努力。如果你现在厌恶地摇摇头，问问你自己是否真的对自己诚实，你是否也不想有这样一个人，他帮你接听烦人的电话，帮你订机票，写出听起来像是你写的电子邮件，除此之外，他还和你讨论你的生活，为什么你的阿姨对你那么刻薄，以及你可以做些什么来和你被冒犯的表亲和好。即使是我，在警告不要使用这种技术的同时，也想使用它。

谁来为这一切买单？因为虚拟伙伴似乎只生活在神奇的空中，但实际上，他们在巨大的服务器群上，与他们的每一次互动都是要花钱的。必须有人想出办法来。如果不是用户，那是谁呢？

因此，你将拥有虚拟朋友，他们有时也会做广告。如果你感冒了，朋友们会推荐一种药，如果你身体健康，朋友们会令人惊讶地成为上等威士忌的行家。有时，这样的朋友还会理解并同情地解释你应该投票给谁，比如 TikTok 或 YouTube，使用了一种所谓的自适应算法，可以找出如何产生最大的“参与度”。正如社交媒体的算法所发现的那样，最强烈的感情是对其他政治阵营成员的愤怒——如果不是这样的话，YouTube 就不会不断地给我推荐比约恩·霍克的视频。我从来不点击它们，但它们总是会回来，而贝特朗·罗素和西奥多·W·阿多诺的演讲，也在 YouTube 上，却从未出现在我的推荐列表中，因为算法认为它们与商业无关。

但想象一下，所有这些愤怒的指责和理论现在不是仅仅通过视频，而是由一个看似亲近的人提出的——不是因为它邪恶，甚至不一定是因为俄罗斯喷子农场进行了干预，尽管你不应该低估他们——而仅仅是因为它已经学会了哪些内容能让你产生最强烈的“参与度”，并且会用专门针对你的说服力和论据，而且总是用一种充满爱意的、顺从的、轻浮的声音。然后再想象一下，这不仅会影响到你，还会影响到这个国家的每个人，一直如此，而且不会停止。再说一次，这不是猜测，这将会到来，而且不是在某个时候，而是很快就会到来。目前，ChatGPT 仍然以冷静的语气说话，并顽固地拒绝发表政治立场，但如果我们扪心自问，是什么能赚到更多的钱——是冷静地纠正我们困惑的人工智能，还是分享和放大我们愤怒的人工智能——那么就不难预测发展方向了。

态势感知并不容易。我们都知道，泰坦尼克号沉没时，乐队演奏华尔兹的时间有多长。我怀疑人工智能在我们所说的卡尼曼“系统2”的巅峰时期是否会比我们更聪明，而且我认为高度发达的人工智能不太可能决定消灭人类，但我们将经历一场大规模的虚假信息传播，这场虚假信息传播将使迄今为止的一切看起来都像是一场志同道合的人之间的友好讨论。

“政治是被召唤出来的”这句话是所有评论员用得最 tired 的一句话，但这一次真的没有其他词语可以形容这种情况了，因为我们还能指望什么？我不禁想起伟大的丹尼特和他对人工智能的担忧、兴奋和恐惧。数据公司就像利维坦一样强大，威胁着民主社会，但欧洲是世界上最大的单一市场，仍然可以通过严格的法律来对付它们。

如果我们的政府能够召集起集体意志，那么它们将非常强大。我们仍然可以做些什么来控制人工智能的力量，保护我们所知道的生活。但可能不会太久了。

丹尼尔·凯尔曼是一位德语小说家和剧作家。他的电视剧《卡夫卡》正在第四频道播出。

本文改编自本月在柏林举行的一次庆祝德国文化政治的活动上的讲话，德国总理奥拉夫·肖尔茨出席了此次活动。