「长期主义」第192期智能说：DeepMind创始人，AI的强大超乎想象

DeepMind，位于英国伦敦，人工智能程序师兼神经科学家戴密斯·哈萨比斯Demis Hassabis等人联合创立，Alphabet旗下前沿人工智能公司，将机器学习与系统神经科学的最先进技术结合起来，建立强大的通用学习算法。最初成果主要应用于模拟、电商、游戏开发等商业领域。

AlphaFold2问世后，各种投资人、政府机构原本拨给传统结构生物学90%以上的经费，划拨给生物AI的实验室，各大期刊论文、国际会议进一步改革，导致传统结构生物学变成Engineering的活，原本Nature Science给各类研究审稿期7个月~1年以上，现在给DeepMind特权，2个月优先审稿、优先发表，政策和资本倾向性已很明显。

DeepMind创始人Demis Hassabis近期作客Lex Fridman播客节目，谈了许多有趣的观点。

访谈开头，Hassabis直言图灵测试已过时，这是数十年提出来的一个基准，图灵测试是根据人的行动与反应来作判断，这就容易出现类似前段时间谷歌一工程师称AI系统已有意识的闹剧。研究者与一个语言模型对话，将自己的感知映射在对模型的判断上，有失客观。

2015年成立至今，DeepMind在人工智能领域发展给世界带来过一次又一次惊喜。从游戏程序AlphaGo，到蛋白质预测模型AlphaFold，深度强化学习的技术突破解决了困扰人类科学家多年的重大科学问题，其背后团队思考与动力，让人神往。

在Hassabis这次访谈中，还谈到有趣的观点，AI超越人类的智能局限。当人类可能已经习惯这个有时间的三维世界，AI也许可达到从十二维理解世界的智能，摆脱工具的本质，因为我们人类对世界的理解也还存在许多不足之处。

本期“长期主义”，选择Demis Hassabis作客Lex Fridman播客节目访谈纪要，雷峰网发布，六合商业研选精校，分享给大家，enjoy！

正文：

全文9,955字

预计阅读20分钟

从游戏到AI

Lex Fridman：你是从什么时候开始喜欢上编程？

Demis Hassabis：我大约4岁开始下棋，8岁时用在一场国际象棋比赛中获得的奖金买了我第一台电脑，一台zx spectrum，后面我买了关于编程的书。

我在一开始用电脑制作游戏时就爱上电脑，觉得它们非常神奇，是自己思想的延伸，你可以让它们做一些任务，隔天睡醒回来时它已经解决了。

当然，所有机器在某种程度上都能做到这一点，增强我们的自然能力，例如汽车让我们移动速度超过奔跑速度。但人工智能是机器能够做所有学习的最终表现，因此，我的想法也很自然延伸到人工智能。

Lex Fridman：你是什么时候爱上人工智能？什么时候开始了解到，它不只可以在睡觉时写程序、做数学运算，还可以执行比数学运算更复杂的任务？

Demis Hassabis：大概可分为几个阶段。我是青少年国际象棋队队长，在大概10岁、11岁时，打算成为一名职业棋手，这是我第一个梦想。12岁时，我达到大师级水平，是世界上排名第二的棋手，仅次于Judith Pologer。当我试图提高棋艺，首先需要提高自己思维过程，思考大脑是如何想出这些想法，它为什么会犯错，怎样才能改善这个思维过程。

就像80年代早期和中期国际象棋计算机，我已习惯有Kasparov（前苏联、俄罗斯职业国际象棋棋手，国际象棋特级大师）的品牌版本，虽不像今天那么强大，但也可以通过与其练习来达到提高的目的。当时我想，这真是太神奇了，有人把这个棋盘编成程序来下象棋。

我买了David Levy在1984年出版的《国际象棋计算机手册》，这是本非常有意义的书，让我可以充分了解国际象棋程序如何制作。

Kasparov，前苏联、俄罗斯职业国际象棋棋手，国际象棋特级大师

我第一个人工智能程序，是由我的Amiga编程的，我写了一个程序来玩奥赛罗逆向思维，这是比国际象棋稍微简单的游戏，但我在当中使用了国际象棋程序的所有原则，即α-β搜索等。

第二个阶段，是在我16~17岁左右时，设计的叫"主题公园"的游戏，其中涉及到AI在游戏中模拟，尽管以今天的AI标准来看它很简单，但它会对你作为玩家的游戏方式做出反应，它也被称为沙盒游戏。

Lex Fridman：可否说一些你与AI的关键联系？在游戏中创建AI系统需要什么？

Demis Hassabis：在我还是孩子时就在游戏中训练自己，后面经历了设计游戏和编写AI for游戏的阶段。

我90年代写的所有游戏，都以人工智能为核心组成部分。之所以在游戏业这么做，是因为当时我认为游戏业是技术的最前沿，像John Carmack、Quake，好像都是在游戏中进行。我们仍在从当中获取好处，像GPU，是为计算机图形而发明，后来被发现对AI有重要作用。所以当时我认为，游戏中拥有最前沿的人工智能。

早期我参与过叫"黑白"的游戏，它是强化学习在计算机游戏中应用最深刻的例子。你可以在游戏中训练小宠物，它会从你对待它的方式中进行学习，如果你对它不好，它会变得刻薄，并对你村民和你所管理的小部落刻薄。如果你善待它，它也会变得善良。

Lex Fridman：游戏对善与恶的映射让我意识到，你可以通过你所做的选择来确定结局，游戏可带来哲学意义。

Demis Hassabis：我认为游戏是种独特的媒介，作为玩家并不仅是被动消费娱乐，实际上，你是作为代表积极参与。所以我认为这就是游戏在某些方面比其他媒介，例如电影和书籍等更有内涵的原因。

从一开始我们就对AI进行深入思考，将游戏作为证明和开放AI算法的试验场。这也是Deepmind最初使用大量游戏作为主要测试平台的原因，因为游戏非常高效，也很容易有指标来查看AI系统是如何改进、思考的方向，以及是否在做渐进式改进。

Lex Fridman：假设我们不能制造一台能在国际象棋中击败人类的机器，人们会认为，由于组合的复杂性，围棋是无法破解的游戏。但最终，AI研究者造出这台机器，人类才意识到，我们没有想象中那么聪明。

Demis Hassabis：这是一段有趣的思考旅程，尤其是当我从两个角度（AI创造者与游戏玩家）来理解时，更觉得神奇，又有点苦乐参半的感觉。

Kasparov将国际象棋称为智能“果蝇”，我蛮喜欢这个形容，国际象棋从一开始就与AI密切相关。我认为每位AI实践者，包括图灵与香农，以及这领域的所有先辈们，都尝试过编写国际象棋程序。

香农在1949年写了第一个关于国际象棋的程序文档，图灵也曾写过著名的国际象棋程序，但由于计算机太慢无法运行，他用铅笔和纸来手动运行程序，跟朋友一起玩。

DeepBlue的出现是个重要时刻，它结合了我喜欢的所有东西，包括国际象棋、计算机、人工智能。1996年，DeepBlue打败了Garry Kasparov。在那之后，我对Kasparov 头脑的印象比对DeepBlue印象更深，因为Kasparov是人类头脑，他不仅可以与计算机在下棋方面达到同一水平，Kasparov也可以做人类能做的一切，比如骑自行车、说多国语言、参与政治活动等。

DeepBlue虽然在国际象棋中有过辉煌时刻，但它实际上是将国际象棋大师的知识提炼成程序，无法做其他任何事情。我认为该系统中缺少智能的东西，这也是我们尝试做AlphaGo的原因。

Lex Fridman：让我们简单谈国际象棋中关于人类的一面。你从游戏设计角度提出，象棋之所以吸引人是因为它是游戏。能否解释一下，在bishop（国际象棋中的“象”）和knight（国际象棋中的“马”）之间是否存在一种创造性的张力？是什么让游戏具有吸引力，并能跨越几个世纪？

Demis Hassabis：我也在思考这个问题。实际上很多优秀的象棋玩家并不一定是从游戏设计师角度去思考这个问题。为什么国际象棋如此吸引人，我认为一个关键原因是不同棋位的动态，你可以分辨出它们是封闭还是开放，想一下象和马的移动方式有多么不同，而后国际象棋在已经进化到平衡这二者的程度，大致都是3分。

Lex Fridman：所以你认为动态总是存在的，而剩下的规则是试图稳定游戏。

Demis Hassabis：也许这有点像鸡生蛋，还是蛋生鸡的情况，但二者达到美丽的平衡，象和马和骑士权力不同，但在整个宇宙的位置中其价值相等。过去几百年里，它们一直被人类所平衡，我认为这赋予了游戏创造性的张力。

Lex Fridman：你认为AI系统能吸引人类去设计游戏吗?

Demis Hassabis：这是个有趣的问题。如果把创造力定义为想出一些原创的、对某个目的有用的东西，那么最低水平的创造力就像一个插值表达，基础的AI系统都具备这样的能力。给它看数百万张猫的照片，然后给我一只普通的猫，这个被称之为插值。还有像AlphaGo，它可以推断。AlphaGo与自己对弈了数百万场后，想出了一些非常棒的新点子，比如在对弈中走37步，提供了人类从未想到的策略，尽管我们已经玩了上百数千年。

在此之上还有一个层次，就是能否跳出思维定式做真正的创新。你能发明象棋，而不是想出一个棋步么？是否能发明国际象棋、或其他和国际象棋或围棋一样的东西？我认为有一天AI可以做到，而现在的问题是如何给一个程序指定这个任务。

我们还不能把高层次抽象概念，具体到人工智能系统中，它们在真正理解高层次概念或抽象概念方面仍然缺少一些东西。

就目前而言，它们可以组合和构成，AI能够做插值和推断，但都不是真正的发明。

Lex Fridman：提出规则集并优化，围绕这些规则集制定复杂目标，我们目前无法做到。但是否可以采用特定的规则集并运行，观察AI系统从头开始学习的时间有多长？

Demis Hassabis：实际上我考虑过，这对游戏设计师来说是惊人的。如果有个系统拿你的游戏玩上千万次，也许一夜间就能实现自动平衡规则。可以通过方程或参数来调整游戏中的单位或规则，使游戏更平衡。这有点像给出一个基本集，通过蒙特卡罗方法搜索或类似的方法来探索，那将是超级强大的工具。而为了自动平衡，通常需要从数百场比赛中训练数千小时，平衡像星际争霸、暴雪等这样的游戏是令人震惊的，这需要测试人员年复一年时间。所以可以想象，当某个时刻这些东西变得足够有效，你可能会想在一夜间做到。

Lex Fridman：你认为我们是生活在模拟Simulation中吗？

Demis Hassabis：是的。Nick Bostrom首次提出了著名的模拟理论，但我不太相信它。

从某种意义上说，我们是在某种电脑游戏中，或者我们后代以某种方式在21世纪重塑地球。理解物理学和宇宙的最佳方式，是从计算的角度将其理解为信息宇宙，实际上，信息是现实的最基本单位。与物质或能量相比，物理学家会说E=mc²，这是宇宙的基础。但我认为，信息可能是描述宇宙的最基本方式，它本身可以指定能量或物质正确的物质。因此可以说，我们处于某种模拟中。但我不同意这些想法丢弃数十亿个模拟。

Lex Fridman：基于你对通用术语机器的理解、对计算机的理解，你认为宇宙中存在计算机能力之外的东西吗？你并不认同数学物理学家Roger Penrose的意见？

Demis Hassabis：Roger Penrose很有名，曾参与过许多精彩辩论，我读过他的经典著作《皇帝新脑》，他解释大脑中的意识还需要更多量子的东西。我工作中也一直在思考我们正在做什么，实际上，我们正将图灵机或经典计算推向极限。经典计算的极限是什么？我也研究了神经科学，这是我博士选择这一方向的原因，从神经科学或生物学角度来看大脑中是否有量子存在。

目前为止，大多数神经科学家和生物学家会说，没有证据表明大脑中有任何量子系统或效应，大多可以用经典理论和生物学方面的知识来解释。

与此同时，从图灵机可以做的事情开始，包括AI系统，这个过程是一直在进行的，尤其是在过去十年里。我不敢打赌通用图灵机和经典计算范式能走多远，但大脑中发生的事情或许可以在机器上模仿，而不需要形而上学或量子的东西。

Al for Science

Lex Fridman：我们谈谈AlphaFold，你认为人类思维都来自于这种类似神经网络的、生物的计算糊状物，而非直接在精神上工作？

Demis Hassabis：在我看来，宇宙中最大奇迹就是我们头骨里只有几磅的糊状物，它也是大脑和目前所知宇宙中最复杂的物体。我认为这是台令人惊奇的高效机器，这也是我一直想构建AI的原因之一。

通过构建像AI这样的智能体，将其与人类思维进行比较，或能帮助我们一直想知道的心灵独特性，和真正的秘密、意识、做梦、创造力、情感等一切事物。现在有了大量工具来实现这件事。

所有的神经科学工具、FMI机器都可以记录，也有AI计算能力可以建立智能系统。人类思维所能做的事情令人惊讶，人类创造了像计算机这样的东西，并思考和研究这些问题，也都是对人类头脑的证明，有助于我们更清晰了解宇宙和人类思想。

甚至可以说，我们或许是宇宙尝试和理解自己美丽的机制所在。从另一个角度看，生物学的基本构件也可以用于理解人类思想和身体，从基本构建开始模拟和建立模型是件很神奇的事，你可以构建越来越大、更复杂的系统，甚至是整个人类生物学。还有一个被认为不可能解决的问题，就是蛋白质折叠，而AlphaFold解决了蛋白质折叠问题，这是结构生物学史上最大的突破之一。

蛋白质是所有生命必不可少的，身体每个功能都依赖蛋白质。蛋白质由它们的基因序列（也被称为氨基酸序列）指定，可以将其视为它们基本构件。它们会在身体中、在自然界中折叠成三维结构，这个三维结构决定了它在身体中的功能。如果你对药物或疾病感兴趣，想用一种药物化合物来阻断蛋白质作用，前提是要了解蛋白质表面结合点的三维结构。

2021年7月，DeepMind首次通过与欧洲分子生物学实验室EMBL合作建立的数据库公开发布AlphaFold预测结果，初始数据库包含了所有人类蛋白质的98%

Lex Fridman：蛋白质折叠问题本质是，你能从氨基酸序列中得到一维的字母串吗？能通过计算立即预测出三维结构吗？这是50多年来生物学界的一个重大挑战。1972年诺贝尔奖获得者Christian Anfinsen首次阐述，他推测从氨基酸序列到三维结构可以实现。

Demis Hassabis：Christian Anfinsen这句话开启了整个计算生物学的50个边缘领域，他们被困在当中、并没有完成得很好。在AlphaFold出现前，这都是通过实验来完成，让蛋白质结晶是件非常困难的事情，有些蛋白质不能像膜蛋白那样结晶，必须使用昂贵的电子显微镜或X射线晶体分析仪，才能得到三维结构并将其结构可视化。有了AlphaFold后，两个人就能在几秒钟内预测出三维结构。

Lex Fridman：有一个数据集，它在这个数据集上进行训练，以及如何映射氨基酸。令人难以相信的是，这个小的化学计算机能以某种分布式方法来计算，算得还非常快。

Demis Hassabis：或许我们该讨论下生命的起源。实际上，蛋白质本身是个神奇的小生物和动物机器。提出列文塔尔悖论的科学家Cyrus Levinthal大致计算了下，一般的蛋白质可能有2,000个氨基酸碱基长，可以有10~300种不同的蛋白质折叠方式。而在自然界中，物理学以某种方式解决了这个问题，蛋白质会在几毫秒、或一秒时间内，在你的身体中折叠起来。

Lex Fridman：该序列有独特的方式来自我形成，它找到了一种在巨大可能性中保持稳定的方式。某些情况下可能会出现功能失调等情况，但大多时候是独特的映射，而这种映射并不明显。

Demis Hassabis：如果是健康，通常有一个独特的映射；患病时，究竟问题出在哪里。例如，曾经有个对阿尔茨海默氏症的猜想，是因为以错误方式折叠β-淀粉样蛋白导致折叠错位，以至在神经元中纠缠在一起。因此，要了解健康、功能和疾病，就需要了解它们是如何结构化的，知道这些东西在做什么超级重要。下一步是当蛋白质与某些东西相互作用时，它们会改变形状。因此在生物学中，它们不一定是静态的。

Lex Fridman：或许你可以给出一些解决AlphaFold的方法，与游戏不同，这是真正的物理系统。这当中什么非常难解决？有哪些跟解决方案相关？

Demis Hassabis：AlphaFold是迄今为止我们构建的最复杂、可能也是最有意义的系统。我们起初构建的AlphaGo和AlphaZero都与游戏相关，但最终目标不仅是破解游戏，而是使用它们来引导通用学习系统，并应对现实世界的挑战。我们更多是希望致力于像蛋白质折叠这样的科学挑战，AlphaFold是我们的第一个重要证明点。就数据来说，创新数量大概需要30多种不同的组成算法，放在一起来破解蛋白质折叠。

一些重大创新是围绕物理学和进化生物学，建立了硬编码来约束像蛋白质中键角之类的东西，但不会影响学习系统，因此，系统仍能从案例中学习物理。

假设只有大约15万个蛋白质，即使经过40年实验，也大概只有约5万种蛋白质结构会被发现。训练集比通常使用的数据量要少得多，但当中使用了像自我提取等各种技巧。因此，使用AlphaFold做一些非常有信心的预测时，将其放回训练集中使训练集更大，对AlphaFold工作至关重要。

实际上，为解决这个问题，需要进行大量创新。AlphaFold产生的是一个直方图，一种蛋白质中所有分子间的成对距离的矩阵，它们必须是一个单独的优化过程来创建三维结构。

要使AlphaFold真正从端到端，可直接从氨基酸的碱基序列到三维结构，跳过中间步骤。从机器学习中也可以发现，越是端到端，就越能使系统变得更好，系统比人类设计者更善于学习约束条件。

这种情况下，三维结构要比有中间步骤更好，因为那必须手工进入下个步骤。最好的办法是，让梯度和学习一直流经系统，从终点到想要的最终输出，再到输入。

Lex Fridman：关于AlphaFold的设想，或许是生物学中一个漫长旅程的早期步骤，你认为同样的方法是否预测更复杂的生物系统的结构和功能、多蛋白质相互作用；其作为一个起点，能模拟越来越大的系统，最终模拟像人的大脑、人体这样的东西吗？你认为这是一个长期的愿景吗？

Demis Hassabis：一旦我们有了足够强大的生物学系统，治疗疾病和理解生物学就是我To Do List上的首要任务，这也是我亲自推动AlphaFold的原因之一，AlphaFold只是个开始。

AlphaFold解决了蛋白质结构这个巨大的问题，但生物学是动态的，我们研究的所有东西都是蛋白质液体结合。与分子发生反应，搭建通路，最终形成一个虚拟细胞，那是我的梦想。

我一直同很多生物学朋友交谈，包括克里克研究所生物学家Paul Nurse。对生物学和疾病发现来说，构建一个虚拟细胞不可思议，因为你可以在虚拟细胞上进行大量实验，最后阶段再进入实验室验证。就发现新药而言，从确定目标，到拥有一个候选药物，大约需要10年时间，如果能在虚拟细胞中完成大部分工作，或许可以将时间缩短一个数量级。

为实现虚拟细胞，必须建立对生物学不同部分相互作用的理解。每隔几年，我们就会跟Paul谈论这个问题。2021年在AlphaFold之后，我说现在终于是我们可以去做的时候了，Paul非常激动。我们与他实验室有些合作。在AlphaFold基础上，相信生物学会有些惊人的进步，目前也可以看到，在AlphaFold开源之后已经有社区在做了。我认为有一天，人工智能系统可能会解决像广义相对论这样的问题，而不仅仅是通过对互联网或公共医疗上的内容进行处理。

这将非常有趣，看它会能够想出什么。这有点像我们之前关于创造力发明围棋的辩论，不是仅仅想出一个好的围棋动作。如果想要获得像诺贝尔奖的奖项，那它需要做的是发明围棋，而不是由人类科学家或创造者来指定。

Lex Fridman：很多人确实把科学看作是站在巨人肩膀上，而问题是你在巨人肩膀上真正达到了多少？也许它只是吸收了过去不同类型的结果，最终以新的视角提供了突破性想法。

Demis Hassabis：这是个很大的谜团，我相信过去10年甚至未来几十年中，很多新的重大突破都会出现在不同学科领域的交叉点上，在这些看似不相干领域间会发现些新联系。人们甚至可以认为，深层思维是神经科学思想和AI工程思想间的交叉学科。

Lex Fridman：你有篇论文是“通过深度强化学习对托卡马克等离子体进行磁控制”，所以你在寻求用深度强化学习来解决核聚变，做高温等离子体控制。你能解释一下AI为什么最终能解决这个吗？

Demis Hassabis：过去一两年里，我们工作非常有趣和看到成效，我们启动很多我的梦想项目，这些是我多年来收集的同科学领域相关的项目。如果我们能参与推动，或许能带来具有变革性的影响，科学挑战本身就是非常有趣的问题。

目前，核聚变面临许多挑战，主要在物理、材料、科学、工程等方面，以及如何建造这些大规模的核聚变反应堆并容纳等离子体。

我们与瑞士洛桑联邦理工学院EPFL和瑞士技术研究所合作，他们有个测试反应器愿意让我们使用。这是一个惊人的测试反应堆，他们在上面尝试各种相当疯狂的实验。我们看的是，当进入一个新领域如核聚变时，瓶颈问题是什么？从第一原理思考阻碍核聚变运作的底层问题是什么？这种情况下，血浆控制是完美的。

这个等离子体有100万℃，比太阳还热，显然没有任何材料可以容纳它。因此必须有非常强大的超导磁场，但问题是等离子体相当不稳定，就像在反应堆中持有许多颗星，提前预测等离子体会做什么，你可以在几百万秒内移动磁场来控制它接下来会做什么。如果你把它看作是强化学习预测问题，这似乎很完美，有控制器，可以移动磁场和切割，但此前用的是传统的控制器。我希望有种可控的规则是，他们不能在当下对等离子体做出反应，必须是硬编码的。

Lex Fridman：AI最终解决了核聚变。

Demis Hassabis：2021年我们在《自然》杂志发表了关于解决这个问题的论文，把等离子体固定在一个特定的形状。实际上这几乎就像是把等离子体雕刻成不同形状，控制它并保持在那里创纪录的时间。

这是核聚变的一个未解决的问题。把它包含在结构中并保持，还有一些不同形状更有利于能量的产生，称为滴液等，这是很重要的。我们正与许多核聚变初创公司沟通，看在核聚变领域可以解决的下一个问题是什么。

Lex Fridman：论文标题中还有个迷人的地方，通过解决分数电子问题来推动密度函数的前沿。你能解释一下这项工作吗？AI在未来能否对任意的量子力学系统进行建模和模拟？

Demis Hassabis：人们试图写出密度函数的近似值以及对电子云的描述，观察两个元素放在一起时如何相互作用。而我们试图做的是学习一种模拟，学习一种能描述更多化学类型的化学函数。

到目前为止，AI可以运行昂贵的模拟，但只能模拟非常小和非常简单的分子，我们无法做到模拟大型材料。因此要建立函数近似值来展示其方程后，描述电子在做什么，所有材料科学和性质都是由电子如何相互作用来控制的。

Lex Fridman：通过功能对模拟进行总结来接近实际模拟出来的结果，这项任务的难度在于运行复杂的模拟，学习从初始条件和模拟参数的映射任务，学习函数会是什么？

Demis Hassabis：这很棘手，但好消息是我们已经做到了，我们可以在计算集群上运行大量的模拟，即分子动力学模拟，由此产生大量数据。这种情况下，数据是生成的。这就是为什么我们使用游戏模拟器来生成数据，因为可以随心所欲创造出更多数据。如果在云端有空闲的电脑，我们就可以运行这些计算。

AI与人类

Lex Fridman：你怎么理解生命起源？

Demis Hassabis：我认为AI的最终用途是将科学加速到极致，它有点像知识之树。如果你想象这就是宇宙中要获得的所有知识，但目前为止，我们几乎只触及了它的表面。AI会加速这个过程，尽可能多地探索这棵知识树。

Lex Fridman：直觉告诉我，人类的知识之树非常小，考虑到我们认知局限。即使有工具，我们仍然不能理解很多事情。这也许是非人类系统能走得更远的原因。

Demis Hassabis：是的，很有可能。但首先，这是两件不同的事情。就像我们今天理解了什么，人类的思想能理解什么，我们要理解的整体是什么，这里有三个同心，你可以把它们想象成三棵更大的树，或者探索这棵树的更多分支。

有了AI后，我们会探索更多。现在问题是，如果你思考一下我们能理解的事物总体是什么，可能有些事物不能被理解，比如模拟之外的事物，或宇宙之外的事物。

Lex Fridman：因为人类大脑已习惯这个有时间的三维世界的状态。

Demis Hassabis：我们的工具可以超越这些。它们可以是11维、12维。我经常举的例子是当我和Gary Kasparov下棋时，我们讨论过象棋之类的东西，如果你很擅长下棋，你不能想Gary的走法，但他可以给你解释，你可以将其理解为事后推理。有一个进一步的解释，也许你不可能发明这个东西，但你可以理解和欣赏，就像你欣赏维瓦尔第或莫扎特一样欣赏它的美。

Lex Fridman：我想问一些更疯狂的问题。比如，你认为地球之外有外星文明吗？

Demis Hassabis：我个人看法是，我们目前是孤独的。我们已经有各种天文望远镜和其他探测技术，尝试在太空里寻找其他文明的信号，如果现在有许多外星文明在同时做这样的事，我们应该听到来自外太空的嘈杂声音。

事实是，我们什么信号也没收到。有很多人争辩说，世界上有外星文明，只是我们还没有真正好好去搜索，或者说我们找的波段错误，也有可能使用了错误的设备，我们没有意识到外星人存在的形式非常不同等。

我不同意这些观点，我们已经做了很多探索，如果真有那么多外星文明，我们应该早就发现了。有趣的是，如果地球是孤独的文明，从大过滤器Great Filters角度看，这挺令人欣慰，这意味着我们已经通过大过滤器的筛选。

说回你刚才问的生命起源问题，生命起源于一些令人难以置信的事物，而没人知道这些事是怎么发生的。如果在地球以外的地方，看到单细胞的某种生命形式，比如细菌，我不会感到惊讶。但就凭其能够捕获线粒体并将线粒体为我所用的这个能力，多细胞生命出现的难度就是空前绝后的。

Demis Hassabis提到的大过滤器理论

Lex Fridman：你认为需要有意识才能有真正的智能吗?

Demis Hassabis：我个人认为，意识和智慧是双重分离的，我们可以在没有智慧的同时实现意识，反过来也一样。

举个例子，很多动物是有自我意识的，也会社交和做梦，它们可以被定义为有一定自我意识，但是没有智慧。

同时，那些在某一任务上非常聪明的人工智能，它们会下象棋，或者其他任务执行得非常好，但它们没有任何自我意识。

Lex Fridman：前段时间谷歌一个工程师认为某个语言模型有感知，你遇到过有感知的语言模型吗？如果一个系统出现了感知，你怎么理解这种情况？

Demis Hassabis：我不觉得目前世界上任何一个AI系统有意识或有感知，这是我每天与AI互动的真实感受。所谓感知，更多是我们大脑自己的投射，由于那是语言模型，与智慧息息相关，人们很容易把系统拟人化。这也是为什么我认为图灵测试有缺陷，它建立于人的反应和判断上。

我们应该和顶尖哲学家谈意识，比如Daniel Dennett、David Charmers，以及其他对意识有深刻思考的人。

目前意识还没有公认的定义，如果让我来说，我觉得意识的定义是，信息得到处理时带来的感觉。

Lex Fridman：让我问个黑暗的私人问题。你说创造一个世界上最强大的超级人工智能系统。正如老话所说，绝对权力导致腐败，你也很有可能成为其中一员，因为你是最有可能控制这个系统的人。你会考虑这些么?

Demis Hassabis：我每时每刻都在思考有什么能对抗这种腐败的防御措施。

人类最大利益的工具或技术，让我们进入一个激进的世界，我们面临许多艰巨的挑战。AI可以帮助我们解决问题，最终使人类走向终极繁荣，甚至找到外星人。而AI的创造者，AI所依赖的文化，AI拥有的价值观，AI系统的构建者都会影响它的发展。即使AI系统会自我学习，但大部分知识也会带有一定已有文化和创造者价值观的残留。不同的文化，让我们比以往任何时候都更分裂，也许当我们进入极度富足的时代后，资源不那么稀缺，我们就不需要激烈竞争，而是可以转向更好合作。

Lex Fridman：当资源受到重大限制时，一些暴行就会发生。

Demis Hassabis：资源稀缺是导致竞争和破坏的原因之一，全人类都想生活在善良、安全的世界里，所以我们必须解决稀缺性问题。但这还不足以达成和平，因为还有其他东西会产生腐败。AI不应该任由仅仅一个人、或者一个组织来运行。我认为AI应该属于世界，属于人类，每个人都应对AI有发言权。

Lex Fridman：你对高中生和大学生有什么建议?如果年轻人有从事AI的愿望，或想以自己力量影响这个世界，他们应该如何获得一份自己由衷感到自豪的职业？如何找到理想的生活？

Demis Hassabis：我总喜欢对年轻人说两句话。

第一句话，你真正的激情在何处？年轻人应该去尽可能探索这个世界。人年轻时，我们有足够多时间，还能承担探索带来的风险。以自己独特的方式，去寻找事物间的联系，我认为这是寻找激情所在的好方法。

第二句话，了解自己。要花很多时间去了解自己最佳的工作方式是什么，最佳的工作时间是什么时候，最佳的学习方式是什么?如何应对压力。

年轻人应该在不同环境下测试自己，尝试改进自己弱点，找出自己独特的技能和优势，然后磨练它们，这些就是你以后在这个世界上的价值。

如果你能把这两件事结合起来，找到自己的激情所在，锻炼出自己独特而强大的技能，你就会获得不可思议的能量，给世界带来巨大的改变。

“长期主义”栏目每周六、与长假更新，分以下系列：

宏观说：全球各大国政要、商业领袖等

社会说：比尔·盖茨等

成长说：洛克菲勒、卡内基等

科学说：历年诺奖获得者、腾讯科学WE大会等

科技说：马斯克、贝索斯、拉里·佩奇/谢尔盖·布林、扎克伯格、黄仁勋、VitalikButerin、BrianArmstrng、JackDrsey、孙正义、华为、马化腾、张小龙、张一鸣、王兴等

投资说：巴菲特、芒格、BaillieGiffrd、霍华德·马克斯、彼得·蒂尔、马克·安德森、凯瑟琳·伍德等

管理说：任正非、稻盛和夫等

能源说：曾毓群等

汽车说：李想、何小鹏、王传福、魏建军、李书福等

智能说：DeepMind、OpenAI等

元宇宙说：Meta/Facebk、苹果、微软、英伟达、迪士尼、腾讯、字节跳动、EpicGames、Rblx、哔哩哔哩/B站等

星际说：中国国家航天局、NASA、历年国际宇航大会，SpaceX、Starlink、蓝色起源、维珍银河等

消费说：亚马逊、沃尔玛、阿里、京东、拼多多、美团、东方甄选等

每个系列聚焦各领域全球顶尖高手、产业领军人物，搜集整理他们的致股东信、公开演讲/交流、媒体采访等一手信息，一起学习经典，汲取思想养分，做时间的朋友，做长期主义者。

玩酷网

「长期主义」第192期智能说：DeepMind创始人，AI的强大超乎想象

科技有六合