AI开发公司Anthropic表示,其最新的人工智能模型Claude Mythos在发现网络安全漏洞方面表现出色,以至于无法向公众发布。该公司计划将这款工具提供给大型科技基础设施提供商,以便他们修补模型发现的漏洞。

今年3月底,有消息泄露称Anthropic最新的AI模型Claude Mythos将成为该公司AI技术的一大飞跃。现在,Anthropic已经展示了该模型的能力,并警告称Mythos在发现和利用网络安全漏洞方面代表了重大威胁。

Anthropic在周二的博客中表示:“AI模型的编码能力已经达到一个水平,能够超越绝大多数人类专家,发现并利用软件漏洞。”该公司称,尚未公开发布的Mythos Preview已经发现了“所有主要操作系统和网页浏览器中成千上万的严重安全漏洞”。当被问及相关评论时,Anthropic的代表将媒体引导至公司的博客文章。

为应对网络安全风险,Anthropic启动了名为Project Glasswing的联盟,成员包括苹果、亚马逊云服务、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达和Palo Alto Networks等。Anthropic表示,这些组织及其他40多个机构将获得Mythos的访问权限,以开始加强对AI攻击和漏洞的防御工作。公司承诺为Mythos提供1亿美元的使用额度,并向开源安全组织捐赠400万美元。

Anthropic首席执行官Dario Amodei在社交平台X上表示:“如果处理不当,风险显而易见;但如果做对了,我们有机会创造一个比AI驱动的网络能力出现之前更安全的互联网和世界。”

在一段关于Project Glasswing的YouTube视频中,微软、Linux基金会和Anthropic的领导人讨论了软件漏洞可能带来的危害。

大型云计算公司已经开始使用该模型寻找漏洞。思科首席安全与信任官Anthony Grieco在博客中写道:“我们的发现令人深刻。现在真正的工作才刚刚开始。AI驱动的分析能够以传统框架无法应对的规模和深度挖掘数据。”

亚马逊云服务表示,该模型已经帮助其强化了最为严密测试的系统代码。AWS副总裁兼首席信息安全官Amy Herzog称Claude Mythos Preview是网络安全领域推理和AI能力的“质的飞跃”。

这款新模型有多重要?

AI能够发现并潜在利用软件漏洞的现象并非新鲜事,DARPA网络大挑战中已有多次AI引起关注。诺顿威胁情报主管Michal Salát表示,Anthropic的Project Glasswing致力于保护这项强大技术,既能革新漏洞研究,也可能被恶意利用带来严重风险。尽管Mythos相较于现有顶级模型如Opus 4.6有重大进步,但其基础能力已存在,漏洞研究正迅速成为AI在网络安全中的主要实际应用之一。

国家政策制定者在联邦AI监管问题上反复权衡,预计将密切关注该联盟的进展。

参议员Mark Warner在声明中称赞该倡议:“我赞赏这些领先企业认识到威胁,主动共享信息、能力和计算资源,以更好地保护我们的关键基础设施。随着AI极大加速新漏洞的发现,我希望业界也能相应加快并重新优先修补工作。”

Warner所在的州是AI数据中心的聚集地,他最近称拟议的数据中心建设暂停令为“愚蠢”,但同时也警告快速发展的AI可能导致大规模失业,给社会带来风险。