“递归”一词最近在人工智能领域成为了新的流行词。已有两家初创公司以此为名，更多企业也在其发展规划中提及递归自我提升（RSI）。就像之前的通用人工智能（AGI）一样，RSI已成为一个代表AI爆发式发展的三字缩写，尽管对其具体含义仍存在一定分歧。

简单来说，RSI指的是一种能够不断自我升级的AI系统。一旦AI系统能够比人类更高效地管理升级周期，这一过程就可能形成一个闭环，唯一的限制是它们可用的计算能力，而人类则变得不再必要甚至无助。

无论这一前景是否令人担忧，许多AI实验室都渴望追逐这一目标。

本月早些时候，知名AI研究员理查德·索彻（Richard Socher）推出了名为“递归超级智能”（Recursive Superintelligence）的项目，明确以RSI为目标。索彻在发布时表示：“我们的主要目标是构建真正递归、自我提升的超级智能规模化系统，这意味着从构思、实施到验证研究想法的整个过程都将自动化。”

许多其他知名研究者也在追求同样的目标，希望实现递归自我提升的突破。

其中最著名的之一是来自特斯拉和OpenAI的传奇人物安德烈·卡帕西（Andrej Karpathy），他利用智能体群训练大型语言模型（LLM）完成简单任务，开展名为Auto-Research的项目。卡帕西对该项目异常开放，定期在社交媒体上分享进展，并通过公开的GitHub仓库提供构建模块。迄今为止，该项目主要在GPT-2规模模型上进行小幅改进——正如卡帕西三月份所说，“这还不是新颖、突破性的‘研究’”，但足以吸引许多研究者追随RSI梦想。如今卡帕西加入Anthropic从事预训练工作，将有更多机会在更大规模上应用这一理念。

由Cohere和谷歌前员工萨拉·胡克（Sara Hooker）创立的Adaption，最近推出了类似的工具AutoScientist，旨在自动化前沿模型训练。与卡帕西的自动研究者类似，该系统训练智能体进行渐进式改进，但Adaption的目标是简化全规模前沿模型的训练。如果研究者们推动技术前沿，该系统可能迅速演变成类似RSI的形态。

Disarray创始人多丽丝·辛（Doris Xin）因其自我训练的机器学习智能体在最近的Kaggle竞赛中获得28枚奖牌，击败了许多由人类训练的智能体而引发了对RSI的关注。她认为，主要挑战在于系统的可靠性。

“我认为，假如拥有无限计算资源和无限时间，我们已经达到了这个阶段，”辛表示，“我想说这其实不是创造性的工作，而是大量基础工程的积累。”

还未到达终点

目前有大量证据表明，AI行业距离真正的递归系统还有很大距离，同时也在努力向公众解释其进展。谷歌CEO桑达尔·皮查伊（Sundar Pichai）在最近一次播客采访中基本承认了这一点。

“这是一个连续过程，我们都在不断取得进展，”皮查伊说，“但按照人们对RSI的描述，那将代表一个加速的新阶段，带来诸多影响，但我们还没达到那个阶段。”

然而，这个连续过程包含了大量自我提升的AI系统。年初，Anthropic的Claude Code项目一位主要程序员坦言，团队“几乎100%”的代码都是由该工具编写的——这实际上意味着Claude Code在自我编写代码。

使用AI工具并不意味着工具能完全取代工程师，但Anthropic似乎正接近这一点。在最近一项与Mythos预览相关的调查中，18名Anthropic工程师中有5人认为，随着改进，这一版本的Mythos很快可以替代L4级工程师——即能够独立承担复杂项目的中级程序员。

不过，系统仍存在一些预料中的弱点。

报告指出：“与L4工程师相比，Claude的主要弱点包括：自我管理长达一周的模糊任务、理解组织优先级、品味、验证、遵循指令和认知科学。”

换言之，其弱点集中在自我指导能力上，而这正是RSI的核心。但在其他方面，Claude已准备好介入工作。

就像AGI一样，AI行业也无法准确告诉我们距离展示真正递归系统还有多远。乔治城大学安全与新兴技术中心（CSET）去年召集专家研究RSI时，发现观点分歧明显——一些人预期即将出现“超级智能”爆发，另一些人则预计进展缓慢并最终趋于平稳。但所有人都同意，递归使未来变得尤其难以预测。

CSET主任、前OpenAI董事会成员海伦·托纳（Helen Toner）告诉TechCrunch，单纯使用AI工具进行AI研究并不等同于RSI。“他们只是尽可能多地使用AI，”托纳说，“这与RSI的经典定义不同，后者意味着完全不需要人类参与。”

托纳引用了METR研究员Ajeya Cotra的一篇文章，文章区分了AI接管研究的不同里程碑。一个阶段称为“足够性”，即系统在没有人类参与的情况下仍能进行研究，尽管效率和价值可能不高；“同等性”则是AI系统的研究能力与人类系统相当；“优势”阶段则是AI系统超越人类与AI合作的研究能力。

Cotra最终认为，AI已非常接近“足够性”门槛，能够独立完成部分工作——类似于卡帕西Auto-Research系统的渐进改进。“如果你告诉我这个里程碑已经过去，我不会感到惊讶，我预计未来几年内会实现，”她写道。

对于“同等性”何时实现，Cotra尚不明确，但一旦达到，她认为这将“极大加速AI进步，导致AI研究优势在一年内实现。”

道路上的挑战

由于许多AI基于规模定律，人们倾向于认为RSI也将遵循类似曲线。托纳认为，许多追求RSI的研究者“认为这是一条平滑的阶梯，可以不断向上攀升。”

但即使研究者能像卡帕西的自动研究者那样实现渐进改进，全面交接整个研究过程仍面临更大挑战。托纳以计算机历史为例，指出人类逐步将更多过程交给机器，但仍从上层进行指导。

“我们经历了从机器语言到汇编语言再到高级语言的演变；你离计算机底层越来越远，”托纳说，“但从某种直觉上讲，人类仍在掌控全局。”

要超越这一范式，工程和对齐方面都需克服重大难题。尽管投入巨大，但计算资源并非无限，人类劳动与机器智能之间的基本权衡难以突破。

至于那些末日般的递归AI系统设想？研究者们基本达成共识：和AGI一样，它们尚未到来。