9月4日消息，由OpenAI前首席科学家、联合创始人Ilya Sutskever联合新创立的AI公司“安全超级智能”（Safe Superintelligence，简称SSI）已筹集10亿美元现金，该公司旨在创造一个“纯粹的”安全超级智能，以帮助开发远远超过人类能力的安全AI系统。

Ilya于6月20日官宣成立这家公司，至今还不到3个月。据路透社消息，参与SSI本轮融资的投资者包括了顶级风险投资公司Andreessen Horowitz、红杉资本、DST Global和SV Angel等。SSI虽然并未透露具体的估值，但知情人士预计，其估值约为50亿美元。

目前SSI拥有10名员工，SSI此次筹集到的资金，将用于获得算力和招聘顶尖的人才，TM计划在加州帕洛阿尔托（Palo Alto）和以色列特拉维夫（Tel Aviv）建立一个高度可信的小型研究人员和工程师团队。

当然，SSI之所以能在如此短的时间内拿下这么大额融资，主要源于创始团队。

Ilya Sutskever 在OpenAI工作10年，被认为是世界顶级的 AI 研究人员之一，其为深度学习领域做出了许多重大贡献，他与Alex Krizhevsky以及他的老师图灵奖得主Geoffrey Hinton共同发明了卷积神经网络AlexNet。OpenAI初期能够成为生成式 AI 这一新领域的领导者，Ilya Sutskever 也功不可没。

在加入OpenAI之前Ilya还曾任谷歌大脑项目科学家。在谷歌大脑Ilya与Oriol Vinyals和Quoc Viet Le合作创建了序列到序列学习算法，并参与了TensorFlow 的开发，他也是AlphaGo论文的众多合著者之一。

2015年，马斯克与萨姆·奥尔特曼（Sam Altman）等人联合，计划创办一家人工智能非营利组织，受马斯克邀请，Ilya以联合创始人兼首席科学家的身份加入了OpenAI。由于和包括奥特曼在内的其他联合创始人产生分歧，马斯克2018年就离开了公司。

2023年，OpenAI成立了新的安全团队“超级对齐”项目，该项目试图在四年内解决超级智能的对齐问题（寻求引导或控制潜在的超级智能AI，并防止其失控）。

同年11月，OpenAI经历了一场“大宫斗”，解雇CEO Sam Altman，Ilya就是发起人之一。有分析人士推测，当时之所以要发起对Sam Altman解雇部分原因是双方对公司应在多大程度上致力于AI 安全存在分歧。最终OpenAI首席执行官Sam Altman回归，Ilya也在今年5月15日宣布离职，并宣称自己将专注于一个对他“个人意义重大”的新项目。

随后6月，Ilya就宣布成立了SSI，并表示，公司将只有一个重点、一个目标和一个产品，一刀切地追求安全超级智能。同时，新公司自称是世界上第一个直接SSI（构建安全超级智能）的实验室。

长期以来，Ilya一直在关注人工智能安全方面的棘手问题。在 2023 年发表的一篇博客文章中，Ilya与 Leike （前OpenAI超级对齐团队负责人之一与Ilya同一天离职）共同预测，人工智能的智能将超越人类，并且当它真的出现时，它不一定是仁慈的，因此需要研究控制和限制它的方法。这也是其成立该公司的理由。

和Ilya一起创业的还有另外一位OpenAI前员工Daniel Levy，此前他领导着OpenAI的优化团队，于今年6月离职。此外，还有曾领导过Apple人工智能项目，同时还经营着投资公司NFDG的Daniel Gross。NFDG公司也是此次10亿美元融资的投资者之一。

Ilya为首席科学家，Levy同样主要为科学家，Gross主要负责计算能力和筹款。

Gross于1991年在耶路撒冷出生。2010年，被Y Combinator（是全球知名的创业加速器）计划录取。当时，他是有史以来最年轻的创始人，创办了Greplin后来更名为（Cue），是一款搜索引擎，旨在让用户从一个位置搜索在线账户（如社交媒体、电子邮件和云存储），而无需逐个检查。2011年，Greplin又从风险投资公司红杉资本筹集了400万美元。

2012 年，该公司更名为“Cue”，并推出了额外的预测搜索功能，2013 年，苹果收购了Cue。Gross也就此加入了苹果公司，担任了4年的苹果AI和搜索部门总监。

2017年，Gross以合伙人身份加入Y Combinator，专注于人工智能领域，还创建了专门的“YC AI”计划。值得注意的是，Sam Altman于 2005 年作为创始人参加了 Y Combinator 的首届融资，2014年又任Y Combinator总裁。也就说Gross和Sam Altman也肯定有过交集。

2018年 8 月，Gross创立了 Pioneer，这是一家早期远程初创企业加速器和基金，专注于在世界各地寻找挖掘有野心的创业人才。2021年，Gross开始在人工智能领域进行大规模投资，同时还运行了一项名为“AI Grant”的项目，向人工智能原生公司提供 25 万美元的资金。2023年，还部署了Andromeda Cluster，这是一个由 2512个 H100s GPU 组成的超级计算机集群，供其投资组合中的初创公司使用。

据悉，在过去十年中，Gross投资了150 多家初创公司，其中包括自动驾驶公司Cruise、美国加密货币平台Coinbase 和人力资源软件公司Rippling等。对于此次投资的SSI公司Gross并没有像往常一样简单地向公司注资，而是以联合创始人的身份亲自投入其中，甚至还亲自参与SSI的人才招聘工作。

Gross在采访时称：他们花了几个小时审查候选人是否具有“良好的品格”，并且正在寻找具有非凡能力的人，而不是过分强调该领域的资历和经验。

在他们看来，成立这家公司并非出于单纯的商业投资，他们都秉承着解决这个时代最重要的技术挑战的使命。

SSI创立时曾宣言：“Safe Superintelligence是我们的使命、我们的名字和我们的整个产品路线图，因为它是我们唯一的关注点。我们的团队、投资者和商业模式都致力于实现 SSI（安全超级智能）。我们将安全性和能力作为技术问题，通过革命性的工程和科学突破来解决。”

同时，该公司还称单一重点意味着不会受到管理费用或产品周期的干扰，公司的商业模式意味着安全、保障和进步都不受短期商业压力的影响。

事实上，OpenAI在成立之初作为非营利组织也和SSI有类似的愿景。它的目标是以最有可能造福全人类的方式推进数字智能，不受产生财务回报需求的限制。但由于训练的高昂成本，在资金压力下，最终还是成立了“受限盈利公司”(capped-profit company)。

最新还有消息称OpenAI很有可能将取消投资者的利润上限，并朝着更传统的营利性公司模式转型。并且在Ilya 走后，OpenAI还解散了超级对齐团队，虽然OpenAI后续又成立了新的安全与保障委员会，但关于安全问题也让OpenAI遭到越来越多人的质疑。

和OpenAI不同的是SSI从一开始就被设计为一个营利性实体，但这也让很多人并不那么看好，认为它可能很快就会陷入资金困境。作为投资人和SSI创始人之一的Gross在接受彭博社采访时却自信满满的说：“在我们面临的所有问题中，筹集资金不会是其中之一。”

Gross还称：“对我们来说，重要的是要有投资者理解、尊重和支持我们的使命，我们的使命是直接进入安全的超级智能，特别是在将产品推向市场之前花费几年时间进行研发。”

不过，正如Gross所说，安全的超级智能产品需要花费好几年时间进行研发，这也意味着需要耗费庞大资金，SSI能否保持住初心，或许只能交给时间来回答。