山姆·奥特曼（Sam Altman）在公司混乱了几天后重新担任OpenAI首席执行官。 JACK GUEZ/Getty Images

一种名为 Q* 的神秘新 OpenAI 模型引起了科技界的热议。

据说该模型引发了初创公司的担忧，导致了由此产生的混乱。

人工智能专家表示，该模型可能是向前迈出的一大步，但不太可能很快终结世界。

随着OpenAI的混乱尘埃落定，我们仍然不知道为什么首席执行官Sam Altman被解雇了——但有报道称它可能与一个神秘的AI模型有关。

据The Information报道，由OpenAI首席科学家Ilya Sutskever领导的团队在今年早些时候取得了突破，这使他们能够构建一个名为Q*（发音为“Q star”）的新模型。该媒体报道说，该模型可以解决基本的数学问题。

消息人士告诉路透社，这种模式引发了一场内部风暴，几名工作人员写信给OpenAI董事会，警告说这一新突破可能会威胁到人类。

据路透社报道，这一警告被认为是董事会选择解雇山姆·奥特曼（Sam Altman）的原因之一，后者在公司经历了几天的动荡后于周三重新担任首席执行官。

解决基本数学问题的能力听起来可能并不那么令人印象深刻，但人工智能专家告诉Business Insider，这将代表现有模型的巨大飞跃，这些模型很难在它们训练的数据之外进行泛化。

“如果它有能力对抽象概念进行逻辑推理和推理，而这正是它现在真正挣扎的，那将是一个巨大的飞跃，”人工智能训练初创公司Tromero的联合创始人查尔斯·希金斯（Charles Higgins）说，他也是人工智能安全领域的博士候选人。

他补充说，数学是关于符号推理的——例如，说，'如果X比Y大，Y比Z大，那么X就比Z大。

Tromero联合创始人兼博士候选人索菲亚·卡拉诺夫斯卡（Sophia Kalanovska）告诉BI，Q*的名字暗示它是两种著名的人工智能技术的结合，即Q学习和A*搜索。

她说，这表明新模型可以将支持ChatGPT的深度学习技术与人类编程的规则相结合。这种方法可以帮助解决聊天机器人的幻觉问题。

我认为这在象征上非常重要。在实践层面上，我不认为它会终结世界，卡拉诺夫斯卡说。

“我认为人们相信Q*将导致AGI的原因是，从我们目前听到的情况来看，它似乎将结合大脑的两侧，能够从经验中了解一些事情，同时仍然能够推理事实，”她补充道，指的是通用人工智能。

“这绝对离我们认为的智能更近了一步，它可能导致模型能够有新的想法，而 ChatGPT 并非如此。”

无法推理和开发新想法，而不仅仅是从训练数据中反刍信息，被视为现有模型的巨大限制，即使被构建它们的人也是如此。

萨里以人为本的人工智能研究所所长安德鲁·罗戈伊斯基（Andrew Rogoyski）告诉BI，解决看不见的问题是创建AGI的关键一步。

“就数学而言，我们知道现有的人工智能已被证明能够进行本科水平的数学，但在任何更高级的东西上都会遇到困难，”他说。

“然而，如果人工智能能够解决新的、看不见的问题，而不仅仅是反刍或重塑现有知识，那么这将是一件大事，即使数学相对简单，”他补充道。

并不是每个人都对报道的突破如此热情。人工智能专家和深度学习评论家加里·马库斯（Gary Marcus）在他的Substack上的一篇文章中对Q*报告的能力表示怀疑。

如果我对每一次这样的推断都有一分钱——'今天，它适用于小学生！明年，它将接管世界！——我会成为马斯克级别的富豪，马库斯写道。