在周二早晨发布于X平台的一篇帖子中，谷歌DeepMind的CEO Demis Hassabis呼吁成立一个新的监管机构，专门负责监督前沿人工智能模型的发布。该帖子题为《前沿AI框架与新时代的曙光》，主张建立一个类似于金融业监管局（FINRA）的“标准机构”，该机构将负责测试前沿模型并制定其发布的最佳实践。

帖子中写道：“最初，前沿实验室将自愿在模型发布前30天内与标准机构共享模型以供审查。一旦评估协议被证明有效且稳健，正式化程序将迅速跟进，这意味着前沿模型必须通过该评估才能在美国市场部署。实验室还将与标准机构合作，解决任何关键的发布后漏洞。”

这一提议的体系将建立在美国政府对Anthropic的Mythos和OpenAI的Sol模型进行的临时审查基础上。此前的审查因缺乏技术专业知识和发布决策的不透明而受到广泛批评。根据Hassabis的建议，这些决策可以交由一个新的组织负责，该组织由美国政府支持，但由AI行业资助并独立运营。

AI监管的前景在科技行业和特朗普政府中仍具争议。最近，白宫AI顾问兼a16z普通合伙人Sriram Krishnan否认了在行政部门内设立AI监管机构的可能性，称“不会有针对AI的FDA”。

将标准机构设立为类似FINRA的自律组织，可能是解决这些担忧的一种方式。Hassabis设想该监管机构由开源代表和行业内的技术专家组成，并由AI实验室提供必要的资金支持以维持其运作。他们甚至可以将部分评估工作外包给日益增长的AI安全组织，这些组织能够专注于特定风险领域。

Hassabis认为：“这种方法的优势在于它技术导向，同时支持创新并激励负责任的行为。它旨在跟上领域的快速发展，适应识别出的最大风险，并且如果情况严重，可以加强监管力度。”