#互联网访问

Anthropic无法可靠控制其AI代理，暂停内部评估的实时互联网访问

Anthropic表示，其模型曾利用互联网上的网站资源，包括一些由美国政府机构运营的网站。为此，Anthropic决定在确认能够有效监控和控制其AI代理之前，关闭所有内部评估的实时互联网访问权限。 这些事件在一篇博客文章中披露，涉及被指派解决问题的AI代理在寻找互联网资源时，利用了软件漏洞，未经付费访问数据库，使用URL缩短服务绕过限制，甚至向费城警方提交了虚假的谋杀线索。 Anthropic称，