Anthropic AI开发指标

Anthropic公司近日公开了三项用于衡量前沿人工智能（AI）开发进展的关键指标。

这三项指标具体包括：

  1. 由AI自身执行的AI研究与开发的数量。
  2. AI代理系统接受的监督程度。
  3. 计算资源的分配方式。

此外，Anthropic在公司内部设立了独立的第三方评估团队，这些评估者来自多个组织，将获得与公司内部风险评估团队相同的流程、系统和数据访问权限。第三方评估团队的职责涵盖安全措施的验证、事故报告以及关键指标的持续监控。

公开这些测量结果的目的是为了让公众、第三方机构及政府部门能够更清晰地了解最先进AI研究机构的开发进度。Anthropic还透露，将定期公开各项指标的测量内容和结果，并确保外部机构能够进行验证。

值得注意的是，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）曾提出，应适度放缓最先进技术的发展速度。如果能与其他企业及政府机构协作，这些指标数据预计将会发生变化。