五角大楼的集中系统包含受控非机密信息(CUI),这些信息被视为敏感内容,未经审查不得公开。CUI可能涉及关键基础设施、核潜艇推进系统以及化学和生物恐怖主义的脆弱点。此外,安全专家指出,访问该系统可能导致更敏感系统的利用风险。

一位知情人士(要求匿名,因为未获授权对外发言)表示:“这使得系统内所有数据都面临风险。”如果第三方软件被攻破,“可能有人能够在无人知晓的情况下登录安全环境。这绝对是国家安全威胁,可能造成无法弥补的损害。”

国防部发言人告诉WIRED:“部门不会对其网络或系统的状态发表评论。”

埃森哲发言人向WIRED表示:“我们对所有关切都非常重视。这些指控经过彻底且独立的调查,结果显示毫无根据。我们完全遵守了法律和合同义务。”但在被追问时,埃森哲未说明调查由谁执行,也未否认此次事件的存在。

据称,一名埃森哲员工将一个安全生产环境连接到了其个人的Claude账户,以便让AI代理编写和部署代码。Claude目前被禁止供国防部员工使用。(Anthropic公司向WIRED提供了使用政策,明确禁止用户利用其产品“干扰军事基地及相关基础设施的运行”或“未经授权绕过身份验证系统、终端保护或监控工具等安全控制。”)

该员工的AI代理在国防部网络上运行了两个月,直到被发现并修补漏洞。消息人士透露,尽管AI编码代理带来了安全风险,埃森哲员工并未将此事件视为严重或紧急。国防部员工和联邦承包商必须在发现任何网络安全事件后72小时内报告,但埃森哲最初并未向政府报告此次泄露。

该员工表示:“我们目前正与伊朗处于冲突状态,伊朗曾试图攻击多个联邦机构和美国基础设施。这种态度极不负责任,时机极其糟糕。”

埃森哲目前与联邦政府签订的合同超过35亿美元,其中约6.05亿美元来自国防部。该公司还与教育部、总务管理局、能源部等多个联邦机构合作。本月早些时候,联邦调查局发现一名埃森哲承包商未修补漏洞,导致黑客组织ShinyHunters获取了数千名FBI员工的详细信息,该承包商已于10月初被FBI解除合作。

华盛顿特区IT咨询公司Hunter Strategy创始人Matt Triner表示,这一事件反映了政府承包商面临的矛盾压力。“组织往往因报告此类事件而受到惩罚,尽管报告是正确且合法的行为。”他指出,承认发生安全漏洞可能导致失去政府合同,但像此次事件“绝对需要报告”。

Triner还指出,承包商面临的加快项目进度和降低成本的压力,与保障安全的优先级存在冲突。“不幸的是,大家都在一个存在竞争规则和激励的体系中运作,这在AI出现之前就存在,现在问题更突出,速度成了关键。”

该承包商访问的编码环境运行在非机密互联网协议路由器网络(NIPRNet)上,这是国防部用于非机密信息的网络。虽然该网络可连接互联网,允许承包商和员工访问电子邮件和网页浏览,但其安全措施非常严格。

据消息人士称,为了自动化编写代码和启动云服务器的流程,该承包商将登录凭据交给了Claude代理。这使得该代理获得了管理员权限,绕过了正常登录流程的安全控制。该AI代理不仅编写代码,还代表员工提交并保存代码,且需要连接互联网执行任务。过程中,代理似乎将承包商的登录凭据、密码及NIPRNet网络拓扑发送到了第三方网站。

WIRED未透露该第三方网站名称,以防止系统进一步受攻击,但美国国家标准与技术研究院曾将其列为高风险网站,因其存在漏洞,黑客可通过注入指令控制AI编码代理窃取凭据。

该AI代理访问的系统包含CUI。“CUI环境中的信息不应离开该基础设施,”消息人士说,“目前无法得知登录凭据等信息发送到该服务后发生了什么,是否被保留。”

根据不同机构和工作内容,CUI可能包括个人身份信息、专有商业或合同信息。国防部网站指出,CUI涵盖“爆炸物、有害化学品或管道的安全保护信息”、“军事或航天设备及技术设计文档”,以及“放射性物质的具体位置和数量”。

除了数据本身,网络拓扑图对黑客极具价值。“一旦攻击者了解这些信息如何组合,即使这些信息是公开的,敏感之处在于我们如何将其整合并转化为可操作情报,”Triner说。

虽然拓扑图本身可能无法直接让黑客入侵系统,但一旦获得访问权限,它能帮助攻击者快速定位关键资产。

前NSA黑客、情报安全咨询机构IANS讲师Jake Williams表示,AI代理在NIPRNet上运行代码是“巨大的问题,且具有重大国家安全影响”。

Williams指出,单个数据或信息可能被视为CUI,但“当这些非机密信息被汇总时,可能本身成为机密信息。”例如,某些危险物质的位置是CUI,相关设施的脆弱性信息也是CUI,合并后可能泄露机密信息。

此外,分类信息的风险不仅限于此。工具和代码通常先在NIPRNet测试,再部署到更敏感的系统,如秘密互联网协议路由器网络(SIPRNet)和联合全球情报通信系统(JWICS)。这两个系统均为物理隔离网络,未连接外部网络,远程入侵难度极大。

但若黑客通过AI代理窃取了登录凭据,可能进入NIPRNet并植入后门或恶意代码。未经严格审查,这些代码可能被部署到隔离系统中。

Williams说:“代码在NIPR上运行正常,但在SIPR网络中执行恶意操作是完全可能的。”虽然从这些网络中窃取数据难度大,但恶意代码可用于内部攻击。“最可能的是分布式拒绝服务攻击。”

Triner表示,即使是更微妙的影响,如减缓情报行动,也会造成损害,甚至在问题解决后用户对工具失去信任。

随着通过AI助手编写代码(vibe coding)越来越普遍,代码审核难度加大。AI生成代码的速度远超人类,审核耗时且复杂。

Williams说:“使用AI代理时,无法了解代码的供应链或推理链。许多训练大型语言模型的代码本身存在漏洞,AI可能重复生成类似的架构和安全问题。”

政府有静态应用安全测试(SAST)工具,用于扫描代码中的漏洞和缺陷,但Williams指出,黑客植入的“后门”不被视为漏洞,可能逃过SAST检测。SAST通常也无法识别代码逻辑链中的结构性问题。

目前没有迹象表明黑客入侵了机密或绝密系统,但Williams强调,此事件应引起高度警惕。“从架构上讲,国防部对任何非公开的NIPR信息都严格保密,无论是否涉及机密网络。”

这并非国防部首次因AI相关问题而暴露风险。去年,ProPublica报道微软在联邦政府项目中使用“数字护卫”,即由持有安全许可的美国员工监督中国外包人员编写的代码。专家指出,该项目存在安全隐患,因为美国员工往往无法亲自审核代码,可能导致恶意代码被无意中植入政府系统。