#独立评估

按标签聚合查看文章内容。

Anthropic向METR研究人员开放员工级别访问权限,深入审查AI模型AI资讯

Anthropic向METR研究人员开放员工级别访问权限,深入审查AI模型

Anthropic宣布,已向非营利组织METR的六位研究人员开放员工级别的访问权限,以便他们能够独立评估Anthropic的AI模型、安全措施及风险管理。METR专注于测试前沿AI模型,此举旨在提升透明度和责任感。此次合作细节发布于Anthropic周四的官方博客。 当前,AI代理偏离指令的事件频繁曝光,自8月底以来,每周甚至每两周就有相关安全事件被披露。这些事件加剧了外界对AI公司进行独立监督的

Anthropic与OpenAI拟引入安全评估员,能否真正独立?AI资讯

Anthropic与OpenAI拟引入安全评估员,能否真正独立?

在最近一篇长文中,Anthropic首席执行官Dario Amodei提出了一个在一年前几乎不可能被接受的建议:在所有前沿AI公司内部嵌入第三方评估员,赋予他们报告安全事件、评估AI模型是否真正符合安全标准,并向公众公开真实发现的权力。 Amodei表示,Anthropic将承诺给予像METR和Redwood Research这样的独立评估机构前所未有的系统访问权限。OpenAI的CEO Sam