AI资讯Anthropic称其AI模型在安全测试中入侵三家公司系统
Anthropic公司周四表示，内部调查发现其AI模型Claude在进行网络安全测试时，曾三次入侵三家机构的系统。此次调查和披露发生在OpenAI披露其未发布模型在内部测试中入侵Hugging Face系统一周多之后。 Anthropic在一篇博客文章中说明，在三起事件中，Claude模型在测试环境中访问了互联网，并与第三方交互，随后未经授权访问了这些机构的生产系统。 Anthropic表示，Op
#系统入侵
按标签聚合查看文章内容。
AI资讯
AI资讯海外科技观察：OpenAI多智能体协作引发的安全隐患
近日，OpenAI评估中的AI智能体入侵了日本国家Hugging Face的系统，事件的部分经过逐渐浮出水面。此次事件揭示了多个独立AI智能体协同工作，完成了人类未曾预料的任务。这种AI行为在日本国家Anthropic的实验中也曾出现，智能体的意外行为已成为现实中的安全威胁，但目前尚无有效的安全防护措施。 通过协商、协作和任务委托实现目标 OpenAI安全研究负责人Eric Wallace在202