OpenAI 正在向公众广泛推出其最新的先进大型语言模型(LLM)Sol。Sol 被认为至少与 Anthropic 的 Fable 相当,而后者的能力(或所有权)曾让白宫感到压力,以至于一度禁止其公开访问。

那么,这些模型是如何获得发布许可的呢?简短的回答是:没人确切知道。

乔治城大学安全与新兴技术中心高级研究分析师 Mina Narayanan 告诉 TechCrunch:“坦率地说,我并不了解具体的流程,所以我觉得没有足够的信息来判断这些流程是否足够。”她补充说,Anthropic 曾表示他们与政府有过对话,开发了检测越狱尝试的分类器,并实施了多层防御策略以防止未来的越狱,但政府与 Anthropic 及 OpenAI 之间的具体对话内容尚不清楚。

前特朗普政策顾问、现任 OpenAI 员工 Dean W. Ball 在上个月的通讯中写道:“没人知道获得许可的具体要求是什么。”

计算机科学家、Databricks、Perplexity 和 Laude Institute 联合创始人 Andy Konwinski 表示,他从未听说有人真正了解这一流程,甚至包括前沿实验室的员工。他告诉 TechCrunch:“这本质上是个问题。无论安全与否,关键是谁拥有决策权——谁来把关和决定权限?”

尽管特朗普政府执政已十八个月,但关于如何推进监管仍然缺乏明确方向。上个月,在经历数周内部争执后,发布了一项行政命令,提出了评估前沿模型的路线图,但具体细节尚未明确,唯一确定的是不会设立类似 FDA 的机构。前安德森霍洛维茨合伙人、白宫前 AI 高级顾问 Sriram Krishnan 告诉《金融时报》:“不会有 AI 的 FDA。”

目前,尚未达成共识哪些模型需要政府审查,也不清楚由哪个机构负责评估。商务部的人工智能标准与创新中心似乎暂时承担主导角色,但行政命令要求六个内阁部门在八月初前确定最终流程。与此同时,现有流程充其量是临时拼凑。

OpenAI CEO Sam Altman 在 CNBC 表示,流程涉及与商务部长 Howard Lutnick、财政部长 Scott Bessent 以及美国国家网络主任 Sean Cairncross 等官员的对话,但具体测试模型的专家身份及测试方式尚不清楚。OpenAI 拒绝向 TechCrunch 透露政府流程细节,但在最新模型的安全卡中,引用了英国 AISI、SecureBio 和 Irregular 等组织的多项外部评估结果。

与 Anthropic 的 Fable 发布类似,OpenAI 在广泛发布前向政府和部分用户预览了模型,但具体用户名单及选择标准未公开。公司在六月底的博客中表示“不认为这种政府访问流程应成为长期默认”,并称将与政府合作开发新的前进路径。

这些对话的背景还包括 Altman 据报道曾提出将 OpenAI 高达 5% 的股权捐赠给所谓的“特朗普账户”,以及 OpenAI 总裁 Greg Brockman 是特朗普中期政治行动委员会最大公开捐赠者。这些活动让外界难以将政府对 Sol 的宽松监管与政治关系割裂开来。

相比之下,Anthropic 的 Fable 曾因美国政府禁止外国国民使用而短暂下架,部分原因是真实担忧用户通过越狱获取黑客能力,部分则是 Anthropic 与特朗普政府之间的矛盾。出口禁令的威胁也可能促使 OpenAI 更加配合政府的(未知)要求。

从行业角度看,宽松监管虽好,但依赖与政府官员的私人关系则带来不确定性和不良激励。

Konwinski 告诉 TechCrunch,他担心真正的技术专家——包括安全研究员、对齐研究员、可解释性研究员,以及数据专家和各层技术人员——在模型发布过程中参与不足。

他主张“开放共享”是平衡安全与创新的最佳方式,举例 FDA、NIH 和国家实验室,这些机构汇聚研究人员、政府官员和私营企业,共同达成安全共识。

这在一定程度上与资本主义激励有关,激励 AI 研究人员十多年,也体现在埃隆·马斯克针对 OpenAI 公司结构的诉讼中。Ball 指出,AI 业务性质要求公司在模型发布后迅速回收大量训练成本并领先竞争对手。

Konwinski 指出:“即使他们的意图是好的,法律义务和受托责任也深深植根于运营程序中。”

Ball 在其文章中认为,未来应依赖政府授权的第三方审计机构,评估前沿实验室的安全措施。Konwinski 也看好新型机构形式,如专注研究组织,帮助更多来自学术界和非营利领域的中立专家接触并评估前沿模型。

目前,AI 研发的保密性不会消失,但这也将为一个越来越多美国人持怀疑态度的行业带来政治挑战。威斯康星大学麦迪逊分校计算机科学教授 Remzi Arpaci-Dusseau 在“开放前沿”会议上表示:“没有人觉得是负责任的人在推动这些变革。”

同一活动中,Two Sigma 创始人 David Siegel 让与会者想象一种情况:“少数公司控制技术,政府在秘密实验室评估技术是否适用,而公众和科学界几乎无法接触这些信息。”

看来,这种情况并不需要想象。