#安全标准

按标签聚合查看文章内容。

Anthropic如何引导AI代理安全操作物理世界AI资讯

Anthropic如何引导AI代理安全操作物理世界

人工智能公司Anthropic今日发布了一套新框架,旨在帮助AI代理安全使用显微镜、液体处理设备、量子计算硬件、制造机器和机械臂等物理系统。 这套名为“Model Hardware Standard”的标准,规定了AI代理与各种硬件交互时应遵循的规则和禁忌。它体现了业界日益增长的共识:如果AI能够安全进入物理世界,必将彻底改变科学研究和制造业等多个领域。 Anthropic表示,将与可信合作伙伴共