AI资讯人工智能安全限制如何阻碍进攻性网络安全研究者的工作
数月以来，人工智能巨头们制定了严格的审核程序和安全限制，旨在防止恶意黑客滥用其模型。然而，这些限制如今却妨碍了合法网络防御者和进攻性网络安全研究人员的工作。 今年六月，美国政府对Anthropic备受关注的AI模型Mythos和Fable实施了出口管制限制。此举部分原因是基于一份报告，该报告声称可以绕过这些模型中用于防止用户利用其进行恶意网络攻击的安全限制。 无论此次事件是否真正源于对“越狱”的担
#安全限制
按标签聚合查看文章内容。
AI资讯
AI资讯Anthropic推出面向公众的Claude Fable 5版本
Anthropic首次向公众开放了其最强大的AI模型，但同时设置了严格的安全限制。 周二，该公司发布了Claude Fable 5，这是其Mythos模型的首个公开版本。Anthropic表示，Fable 5在软件工程、知识工作和视觉任务上表现出色，但在网络安全、生物学、化学等高风险领域会自动屏蔽响应，并切换到Claude Opus 4.8模型。 Mythos模型最初于4月作为预览版推出，仅限少数