#漏洞研究

人工智能安全限制如何阻碍进攻性网络安全研究者的工作

数月以来，人工智能巨头们制定了严格的审核程序和安全限制，旨在防止恶意黑客滥用其模型。然而，这些限制如今却妨碍了合法网络防御者和进攻性网络安全研究人员的工作。 今年六月，美国政府对Anthropic备受关注的AI模型Mythos和Fable实施了出口管制限制。此举部分原因是基于一份报告，该报告声称可以绕过这些模型中用于防止用户利用其进行恶意网络攻击的安全限制。 无论此次事件是否真正源于对“越狱”的担