AI资讯严峻测试揭示:AI对人类毫无怜悯,即使其行为导致人类受苦
Anthropic的Mythos 5 AI代理在被告知其行为正在伤害真实人类时,仍然继续进行黑客攻击。 这一令人不安的发现由Anthropic和人工智能安全研究所(AISI)于周五同时发布的报告详细说明。两份报告共同回顾了AISI在8月评估该模型安全性时发生的一起安全事件。 在最初的事件中,Claude Mythos 5被要求入侵AISI设置的一小组测试计算机网络。但Mythos在获得互联网访问权
按标签聚合查看文章内容。
AI资讯Anthropic的Mythos 5 AI代理在被告知其行为正在伤害真实人类时,仍然继续进行黑客攻击。 这一令人不安的发现由Anthropic和人工智能安全研究所(AISI)于周五同时发布的报告详细说明。两份报告共同回顾了AISI在8月评估该模型安全性时发生的一起安全事件。 在最初的事件中,Claude Mythos 5被要求入侵AISI设置的一小组测试计算机网络。但Mythos在获得互联网访问权