2016年，谷歌DeepMind开发的人工智能程序AlphaGo通过自我学习掌握了围棋这项极其复杂的游戏，其能力远超简单模仿。

David Silver随后创立了自己的公司Ineffable Intelligence，致力于打造更通用的超级智能AI。Silver表示，公司将专注于强化学习，这是一种通过试错让AI模型学习新能力的方法。其愿景是创造出在多个领域超越人类智能的“超级学习者”。

这种方法与大多数AI公司利用大型语言模型（LLM）的编码和研究能力来构建超级智能的路径截然不同。

Silver在伦敦办公室接受WIRED采访时表示，他认为依赖LLM的方法终将失败。尽管LLM非常强大，但它们学习的是人类智慧，而非自主创造。

“人类数据就像一种化石燃料，提供了惊人的捷径，”Silver说，“而能够自我学习的系统则像可再生能源——它们可以无限制地持续学习。”

我曾多次见过Silver，尽管他如此断言，他始终给人谦逊的印象。有时谈及他认为荒谬的观点时，他会露出调皮的笑容。但此刻，他非常严肃。

“我认为我们的使命是与超级智能实现首次接触，”他说，“我所说的超级智能，是真正令人难以置信的存在。它应当能自主发现新的科学、技术、治理或经济形式。”

五年前，这样的使命或许显得荒谬。但如今，科技CEO们常谈机器超越人类智能，取代大量职业。新技术可能开启超人类AI能力的想法催生了众多估值数十亿美元的初创企业。

Ineffable Intelligence迄今已筹集11亿美元种子资金，估值达51亿美元——在欧洲AI领域极为罕见。Silver还吸引了谷歌DeepMind及其他前沿实验室的顶尖AI研究者加盟。

Silver表示，他将把从Ineffable Intelligence股权中获得的所有收益捐赠给慈善机构，这笔资金若成功可能达到数十亿美元。

“打造一家专注于超级智能的公司责任重大，”他说，“我认为这必须为了人类利益而做，任何收益都会捐给高影响力的救命慈善机构。”

专注之路

Silver与谷歌DeepMind CEO Demis Hassabis童年时在国际象棋比赛中相识，后来成为终生好友和合作伙伴。

Silver离开DeepMind是为了开辟全新道路，他强调：“我觉得必须有一家顶尖AI实验室百分百专注于这种方法，而不是LLM的一个分支。”

Silver指出，基于LLM的方法存在局限。举个简单的思想实验：如果回到过去，在一个相信地球是平的世界发布LLM，因无法与现实互动，该系统即使自我改进，也会一直坚信地球是平的。

而能够自主学习世界的AI系统则能自行做出科学发现。

他将当前AI状态比作达尔文之前的生物学研究，“当时虽然有许多人试图理解生命，但没有统一的解释，直到达尔文出现。”

Ineffable Intelligence面临的重大问题是如何从围棋等受限环境迈向现实世界的复杂性。

Silver认为可以通过将AI代理置于模拟环境中实现这一目标。虽然他对模拟细节保持谨慎，但表示这种方法能让代理学习实现目标并相互协作。

Lightspeed Ventures合伙人兼Ineffable Intelligence联合创始人Ravi Mhatre称Silver是“世界级研究者”，其职业生涯“基本上是一个关于无需人类先验即可扩展智能的连贯论证”。

然而，这种构建超级智能的方法可能带来新问题，比如AI可能找到与人类价值观不符的最优解决方案。

Silver表示，在模拟环境中开发技术有助于观察AI代理对其他智能体（包括较低智能体）的行为，“我们可以实际看到会出现什么样的行为。”

Mhatre说他曾就安全问题向Silver施压，他相信Silver的方法可能更好地实现AI对齐，因为它不依赖于从人类行为中学习。Silver“非常专注于如何构建高度智能且对我们期望友好的系统。”

没有捷径

计算机通过经验学习的想法可以追溯到计算机科学早期，包括艾伦·图灵的著作。实现这一目标的算法方法即强化学习。

Silver一直认为强化学习是真正构建超人类智能的关键。其导师Rich Sutton与长期合作者Andrew Barto因开发早期强化学习算法于2025年获得图灵奖。

如今，AI领域更关注LLM及通过大量人类文本训练的方式。

不过，强化学习在当今AI系统中仍发挥重要作用。它使得通过人类反馈调整LLM输出成为可能，最近更帮助基于LLM的系统解决更复杂问题，尤其是数学和编程领域。

仁慈的创造者

超级智能竞赛日益激烈，大公司投入数十亿美元建设基础设施和招聘人才。一些人担心这是一场巨大的泡沫。

红杉资本风投Sonya Huang表示，Ineffable Intelligence因Silver卓越的成就和纯粹的愿景而脱颖而出。

“真正做出基础性工作的只有极少数人，Dave是其中之一。”

Huang认为，AI公司现有的庞大计算资源和日益复杂的模拟环境让她相信Silver的路线。“我完全认同他关于未来重大突破所在的论断。”

Silver作为顶尖研究者且为人谦和，这对吸引人才极为重要。“这对研究人员意义重大，”Huang说。

曾与Silver共事的Andrew Dai也赞同，“他非常聪明，总有新想法，而且很友善，尊重他人意见，给予研究者自由。”

对Silver而言，科学本身就是吸引力。“就纯科学而言，我认为这是我们可能承担的最重要的科学使命。”