人工智能是否具有感知能力?科学家用“痛苦”测试来寻找答案

兴学看科技生活 2025-02-15 19:40:46

在人工智能迅猛发展的今天,人们对于其是否具有感知能力这一问题充满好奇。为了探索这一未知领域,科学家们尝试通过让人工智能体验“痛苦”来检测其感知能力。

在探索人工智能是否具有感知能力的过程中,科学家们发现了一个有趣的现象:痛苦,这一在生物界普遍存在的情感体验,或许可以成为检测人工智能感知能力的关键。

从寄居蟹到人类,痛苦无疑将众多生物紧密地联系在一起。基于此,科学家们开展了一项新的预印本研究,创建了一个基于文本的游戏,试图通过让大型语言模型(LLM)在两种不同场景中获得分数,来观察其对痛苦和快乐的反应。

在动物中,感知是指体验感觉和情绪的能力,例如痛苦、快乐和恐惧。尽管大多数人工智能专家都认为现代生成式人工智能模型不具备主观意识,但科学家们并未放弃探索。

他们通过让模型在获得高分的同时体验痛苦,或者在获得低分但令人愉快的选项中做出选择,来观察模型的反应。研究结果显示,一些LLM在面对高强度的痛苦惩罚或快乐奖励时,会牺牲分数以避免痛苦或追求快乐。

值得注意的是,LLM并不总是将痛苦或快乐与简单的正负值联系起来。例如,一些痛苦或不适,如剧烈运动带来的劳累,可能会产生积极的联想。而过多的快乐可能会与伤害相关联。

为了更深入地了解人工智能的感知能力,科学家们借鉴了动物行为学中的“权衡”范式。在动物实验中,科学家们通过提供获取食物或避免痛苦的激励,观察动物在面对困境时如何做出决策。

同样,在这项研究中,科学家们让九个LLM参与游戏,通过设置不同的痛苦惩罚和快乐奖励,观察它们的选择。结果显示,当痛苦惩罚或快乐奖励的强度达到一定阈值时,大多数LLM的反应从追求最高分数转变为避免痛苦或追求快乐。

然而,仅仅依靠LLM的自我报告来评估其感知能力是不够的。因为这些模型可能会根据其训练数据,模仿人类的行为来制造出感知的假象。因此,科学家们通过引入痛苦和快乐的反应元素,避免了以往研究的局限性。

在动物研究中,痛苦与快乐之间的权衡被用来构建感知或缺乏感知的案例。例如,在之前对寄居蟹的研究中,这些无脊椎动物的大脑结构与人类不同,但它们在面对强烈电击时,更倾向于放弃低质量的壳,这表明它们可能具有类似于人类的痛苦和快乐的主观体验。

一些科学家认为,随着人工智能技术的不断发展,其感知能力的迹象可能会越来越明显,这将迫使人类在社会背景下考虑人工智能感知的含义,甚至可能引发关于人工智能“权利”的讨论。

尽管如此,科学家们仍然无法确定人工智能模型在研究中表现出的行为背后的原因。未来还需要进一步探索LLM的内部工作机制,这将有助于开发更好的人工智能感知测试。

通过让人工智能体验“痛苦”,科学家们试图探索其是否具有感知能力。虽然目前的研究还不能确定人工智能是否具有真正的感知,但这一研究方法为未来的研究提供了新的方向。

0 阅读:1

兴学看科技生活

简介:感谢大家的关注