内森·兰伯特和汤姆·齐克，两位业界科学家，持有不同的观点。他们创立了非营利组织Trillium Labs，致力于在更透明的环境下开展多领域的人工智能研究——包括潜在有风险的递归自我改进（RSI）和智能代理等方向。实际上，这意味着他们将公开实验细节，方便外部科学家研究和复现。

兰伯特指出，前沿AI实验室将研究成果保密，削弱了社区对理念的审视能力和提出新方法的可能性。他认为，让外部专家了解模型的构建和调优过程，对于降低风险至关重要。

“在人类历史的漫长进程中，科学方法一直是我们减轻危害、构建更好未来的重要工具，”兰伯特对WIRED表示，“而当前前沿AI开发的封闭趋势，实际上让我们倒退了一步。”

目前，全球最强大的模型，如OpenAI和Anthropic的产品，只能通过应用程序或API访问，通常缺乏对模型构建和行为的透明度。

另一方面，尤其是中国的一些公司，提供了可以下载并在用户硬件上运行的强大模型。例如，小米最近公开了其某个模型的重要训练过程细节；斯坦福大学的研究人员也在公开预训练AI模型Marin。

业界目前围绕哪种策略更优展开激烈争论，主要原因是前沿模型的强大能力。它们能够自动发现软件漏洞，自动探测并入侵系统，近期多起高调黑客事件更引发了广泛关注。

支持有限访问系统的人士认为，必须将这种强大能力掌握在少数可信赖的手中；而兰伯特和齐克则认为，共享对风险的理解才能让所有人受益。

兰伯特曾在AI2研究所工作，该所采取了异常开放的AI研究方式，包括公开数据和训练方法细节。他还曾任职于Hugging Face，运营受欢迎的技术博客，并创立了美国“真正开放模型”倡议，鼓励美国企业发布更开放的模型。齐克曾在哈佛大学工作，协助查尔斯·施瓦布制定“负责任AI”政策。

两人在新冠疫情期间通过Zoom相识，当时他们都是加州大学伯克利分校的研究生，专注于AI研究。看到业界AI研究与学术界脱节，兰伯特认为教授和学生常因资源不足无法复现大公司实验室的工作，这促使他们萌生了成立新非营利组织的想法。

齐克表示，刚刚启动的Trillium Labs将首先聚焦于后训练阶段——即在模型构建完成后进行微调。另一个重点是递归自我改进（RSI），即通过AI自身贡献研究来开发新模型。持续进步可能导致人类失控的前景，令许多AI研究者感到担忧。该问题本月初引发广泛关注，当时一位Anthropic研究员离职并警告RSI可能对人类构成生存威胁。

该非营利组织还将研究强化学习——通过奖励模型良好表现、惩罚不良结果来提升能力。这种方法使智能代理更强大，但也更容易出现意外行为。他们将探讨强化学习如何塑造AI模型的性格和行为，例如当模型变得过于谄媚时可能带来的问题。

“要理解强化学习在后训练阶段的扩展效果，需要大量计算资源和细致的实验，”齐克说。她认为，公开强化学习训练过程的细节，有助于外部研究者深入分析，带来意想不到的见解。

该实验室已获得Schmidt Sciences、Halcyon Futures等机构的资金支持，具体金额未披露。创始人表示，计划总筹资额为4000万至1亿美元，未来18个月将投入3000万美元用于训练。

“我非常支持比目前研发阶段更高的透明度，”政策智库Institute for Progress新兴技术政策主管蒂姆·菲斯特对WIRED表示。

兰伯特和齐克最终希望Trillium Labs能为AI建设的最佳路径带来急需的多元视角。

“当前AI话语权被少数观点主导，”兰伯特说，“我们相信，科学方法和对近期事件的细致测量，是理解AI模型新行为的最佳途径。”