本文译自WSJ 日前刊发的Yann LeCun特写文章《This AI Pioneer Thinks AI Is Dumber Than a Cat》。作者:Christopher Mims。翻译:智能超参数。点击文末“阅读原文”可跳转英文版原文。
这位AI先驱认为AI比猫还笨
Yann LeCun(杨立昆)帮助催生了当今的人工智能繁荣。但他认为许多专家夸大了AI的力量和危险,他希望人们明白这一点。
当一群著名技术专家告诉我们,我们即将拥有超越人类智能的计算机——甚至可能取代人类智能时,LeCun积极地将自己塑造成了AI繁荣时代最具资格的怀疑论者。
在社交媒体、演讲和辩论中,这位大学教授兼Meta AI大师与那些吹捧生成式AI超人潜力的支持者和悲观主义者针锋相对,从埃隆·马斯克到LeCun的两位同行先驱,他们与LeCun共享该领域“教父”的非官方头衔。其中包括Geoffrey Hinton,一位与他相识近40年的朋友,Hinton获得了诺贝尔物理学奖,并曾多次警告AI的存在威胁。
LeCun认为,今天的AI模型虽然有用,但远未达到与我们的宠物相媲美的智能,更不用说与我们人类相比了。当我问他是否应该担心AI很快会变得如此强大以至于对我们构成危险时,他打趣道:“请原谅我的直言不讳,但那完全是胡说八道。”
在现实生活中,LeCun有一种令人放松的魅力:顽皮、机智,随时准备传达他所认为的该领域的硬道理。64岁的他看起来既时髦又有点邋遢,这很适合一个现在在纽约大学任教的前巴黎人。
他的眼镜是经典的黑色雷朋框架,几乎与Meta的一款AI驱动的眼镜模型完全相同。(LeCun自己的AI驱动雷朋眼镜在他出海航行时不慎落入海中后就停止工作了,航海是他的爱好之一。)
坐在Meta纽约市一个卫星办公室的会议室里,他散发着温暖和亲切的自信,带着让你觉得自己也参与其中的笑容,传达他尖锐的观点。
他的工作成果,以及他在最大的科技公司之一最成功的AI研究实验室的地位,给LeCun的批评增添了分量。
LeCun出生并成长于巴黎北部,他对AI产生兴趣的部分原因是斯坦利·库布里克1968年的科幻经典电影《2001太空漫游》中的反叛AI HAL 9000。在索邦大学获得博士学位后,他在著名的贝尔实验室工作,那里发明了从晶体管到激光的一切。2003年,他成为纽约大学计算机科学教授,十年后成为当时还是Facebook的公司的AI研究主管。
2019年,LeCun与Hinton和Yoshua Bengio一起获得了计算机科学的最高奖项A.M.图灵奖。这个奖项使三人被称为AI教父,表彰他们为神经网络奠定的基础性工作,这些多层系统是当今许多最强大的AI系统的基础,从OpenAI的聊天机器人到自动驾驶汽车。
如今,LeCun继续在纽约大学与他的博士生一起发表论文,同时在Meta担任首席AI科学家,管理着世界上资金最充足的AI研究组织之一。
他经常通过WhatsApp与首席执行官马克·扎克伯格会面和聊天,后者正将Meta定位为AI繁荣时代对抗苹果公司到OpenAI等其他科技巨头的颠覆性力量。
喜欢辩论
LeCun 既与竞争对手较劲,也与朋友较劲。今年春天,在亿万富翁在X上发帖宣传自己的人工智能公司后,他与马斯克就科学研究的本质展开了激烈的争论。
LeCun还公开与Hinton和Bengio就他们反复警告AI对人类构成危险的观点表示不同。
Bengio说,他在许多话题上与LeCun意见一致,但他们在是否可以信任公司确保未来超人类AI不会被人类恶意使用,或者自己产生恶意意图这一问题上存在分歧。
“我希望他是对的,但我不认为我们应该仅仅依靠公司之间的竞争和利润动机来保护公众和民主,”Bengio说。“这就是为什么我认为我们需要政府参与其中的原因。”
LeCun认为AI是一个强大的工具。在我们的整个采访过程中,他举了许多例子说明AI在Meta变得如何重要,并推动其规模和收入增长。AI对Meta的一切都至关重要,从实时翻译到内容审核,除了被称为FAIR的基础AI研究团队外,Meta还有一个专注于产品的AI小组叫做GenAI,致力于追求其大型语言模型的不断改进版本。
“对Meta的影响真的非常巨大”,他说。
同时,他确信今天的AI在任何有意义的意义上都不是智能的——而且他认为该领域的许多其他人,尤其是AI初创公司,准备以他认为荒谬的方式推断其最近的发展。
如果LeCun的观点是正确的,这对今天一些最热门的初创公司来说意味着麻烦,更不用说那些向AI投入数百亿美元的科技巨头了。他们中的许多人都押注于这样一个想法:基于今天的大型语言模型的AI,比如OpenAI ,正在近期走向创造所谓的"通用人工智能"(AGI)的道路上,这种AGI将广泛超越人类水平的智能。
OpenAI的Sam Altman上个月说,我们可能在"几千天内"就能拥有AGI。埃隆·马斯克说这可能在2026年就会发生。
LeCun说这样的说法可能为时过早。当一位即将离职的OpenAI研究员在5月谈到学习如何控制超智能AI的需求时,LeCun立即抨击。他在X上回复说:“在‘紧急弄清楚如何控制比我们聪明得多的AI系统’之前,我们似乎需要先有一个比家猫更聪明的系统设计的初步线索。”
他喜欢用猫来比喻。毕竟,猫有一个关于物理世界的心理模型,持久的记忆,一些推理能力和规划能力,他说。这些特质都不存在于今天的“前沿”AI中,包括Meta自己制造的AI。
Léon Bottou认识LeCun已有37年,他说LeCun 有“一种善意的固执”——也就是说,愿意倾听他人的观点,但在追求他认为正确的构建人工智能的方法上一心一意。
Alexander Rives是LeCun的前博士生,现在已经创立了一家AI初创公司。他说LeCun的挑衅是经过深思熟虑的。“他确实能够发现该领域思考问题的方式中的差距,并指出这一点,”Rives说。
今天的方法不对
LeCun认为真正的通用人工智能是一个值得追求的目标——Meta也在为此努力。
“在未来,当人们与他们的AI系统交谈时,无论是智能眼镜还是其他什么,我们需要这些AI系统基本上具有人类水平的特征,真正具有常识,真正表现得像人类助手,”他说。
但是创造一个如此有能力的AI可能很容易需要几十年,他说——而且今天的主导方法不会让我们达到那里。
生成式AI的繁荣一直由大语言模型和类似系统驱动,这些系统在海量数据上训练以模仿人类表达。随着每一代模型变得更加强大,一些专家得出结论,只需要将更多芯片和数据投入到未来AI的开发中,就会使它们变得越来越有能力,最终与人类智能相匹配或超越。这就是大规模投资建设更大规模专用芯片池来训练AI的逻辑。
LeCun认为,今天的AI系统的问题在于它们的设计方式,而不是规模。无论科技巨头在世界各地的数据中心塞进多少GPU,他说,今天的AI都不会给我们带来通用人工智能。
他坚信,研究以完全不同的方式工作的人工智能将使我们走上通往人类水平智能的道路。这些假设的未来AI可能采取多种形式,但目前FAIR正在进行的处理真实世界视频的工作是让LeCun感到兴奋的项目之一。这个想法是创造以类似于婴儿动物学习的方式学习的模型,通过从视觉信息中建立世界模型。
有朝一日,在使用一系列其他技术和算法构建的具有常识和类人类能力的系统中,ChatGPT和其他机器人的大语言模型(LLM)可能只能扮演很小的角色。
他说,今天的模型实际上只是在预测文本中的下一个词。但它们在这方面做得如此出色,以至于欺骗了我们。而且由于它们巨大的记忆容量,它们似乎在推理,但实际上它们只是在重复已经训练过的信息。
"我们习惯于认为能够表达自己或操纵语言的人或实体是聪明的——但这并不正确,”LeCun说。“你可以操纵语言而不聪明,这基本上就是大语言模型所展示的。”