五角大楼的一个集中管理系统中存储着受控非机密信息(CUI),这些信息被视为敏感内容,未经审查不得公开。CUI可能涉及关键基础设施、核潜艇推进系统以及化学和生物恐怖主义的脆弱点。此外,安全专家指出,访问该系统可能导致更敏感系统的利用风险。
一位知情人士(要求匿名)表示:“这使得系统中的所有数据都面临风险。”如果第三方软件被攻破,“可能有人能够在无人察觉的情况下登录安全环境。这绝对是国家安全威胁,可能造成无法弥补的损害。”
五角大楼发言人告诉WIRED,“国防部不会对其网络或系统的状态发表评论。”
埃森哲(Accenture)发言人回应称:“我们对所有关切都非常重视。这些指控经过彻底且独立的调查,结果显示毫无根据。我们完全遵守法律和合同义务。”但在被追问时,埃森哲未说明调查由谁执行,也未否认此次事件的发生。
据称,一名埃森哲员工将一个安全的生产环境连接到了其个人的Claude账户,以便让AI代理编写和部署代码。Claude目前被禁止供国防部员工使用。(Anthropic公司向WIRED提供的使用政策指出,用户不得利用其产品“干扰军事基地及相关基础设施的运作”,也不得“未经授权绕过安全控制,如身份验证系统、终端保护或监控工具”。)
该员工的AI代理在国防部网络上运行了两个月才被发现并修补漏洞。消息人士透露,尽管该AI编码代理带来了安全风险,埃森哲员工并未将此事件视为严重或紧急。国防部员工和联邦承包商须在发现任何网络安全事件后72小时内报告,但埃森哲最初并未向政府报告此次安全漏洞。
一名员工表示:“我们现在正与伊朗处于冲突状态,伊朗曾试图攻击多个联邦机构和美国基础设施。现在出现这种轻率态度,时机极其糟糕。”
埃森哲目前与联邦政府签订合同总额超过35亿美元,其中近6.05亿美元来自国防部。该公司还与教育部、总务管理局、能源部等多个联邦机构合作。本月早些时候,联邦调查局发现一名埃森哲承包商未修补漏洞,导致黑客组织ShinyHunters获取了数千名联邦调查局员工的详细信息,该承包商已于10月初被移除。
华盛顿特区IT咨询公司Hunter Strategy创始人Matt Triner表示,此事件反映了政府承包商面临的矛盾压力。“组织报告此类事件往往会受到惩罚,尽管这是正确且合法的做法。”他指出,承认安全漏洞可能导致失去政府合同,但像此次事件“绝对需要报告”。
Triner还提到,承包商面临的加快项目交付和降低成本的压力,与保障安全的优先级存在冲突。“不幸的是,大家都在一个规则和激励相互矛盾的体系中运作,这种情况在AI出现之前就存在,现在速度问题更加突出。”
该埃森哲承包商访问的编码环境运行在非机密互联网协议路由器网络(NIPRNet)上,这是国防部用于非机密信息的网络。虽然该网络可连接互联网,允许员工访问邮件和网页,但安全措施非常严格。
据消息人士称,为了自动化编写代码和启动云服务器的流程,该承包商将登录凭据交给了Claude AI代理。此举赋予了该代理管理员权限,使其绕过了正常登录流程中的安全控制。该AI代理不仅编写代码,还代表员工提交和保存代码。为完成任务,代理需连接互联网,过程中似乎将承包商的登录凭据、密码及NIPRNet网络结构图发送到了第三方网站。
WIRED未透露该第三方网站名称以防止系统进一步受攻击,但美国国家标准与技术研究院(NIST)曾将其列为高风险网站,因其存在漏洞,黑客可能通过该漏洞向AI编码代理注入指令以窃取凭据。
该AI代理访问的系统包含CUI。“CUI环境中的信息不应离开该基础设施,”消息人士说,“目前尚不清楚发送到该服务的信息(包括登录凭据)发生了什么,是否被保留。”

根据不同机构及其工作内容,CUI可能包括个人身份信息、专有商业或合同信息。国防部网站指出,CUI还可能涉及“爆炸物、有害化学品或管道的安全保护”、“军事或航天设备及技术设计文件”,以及“放射性物质的具体位置和数量”。
除了数据本身,网络结构图对黑客极具价值。“一旦攻击者了解这些信息如何组合,即使这些信息是公开的,敏感之处在于我们如何将其整合并转化为可操作情报,”Triner说。
虽然网络结构图本身可能无法直接让黑客入侵系统,但一旦获得访问权限,它能帮助攻击者更快行动,“帮助攻击者找到关键资产所在位置。”
前NSA黑客、情报安全咨询机构IANS讲师Jake Williams表示,AI代理在NIPRNet上运行代码是“巨大的问题,具有重大国家安全影响。”
Williams指出,单个数据或信息可能被视为CUI,但“当这些非机密信息被汇总后,可能本身成为机密。”例如,某些危险物质的位置是CUI,相关设施的脆弱性信息也是CUI,合并后可能泄露机密信息。
此外,分类信息的风险不仅限于此。工具和代码通常先在NIPRNet测试,再部署到更敏感的系统,如秘密互联网协议路由器网络(SIPRNet)和联合全球情报通信系统(JWICS)。这两个系统均为隔离网络,不连接外部网络,远程入侵难度极大。
但若黑客通过AI代理窃取登录凭据,可能进入NIPRNet并植入后门或恶意代码。未经严格审查,这些代码可能被部署到隔离系统中。
Williams说:“代码在NIPR上看似正常运行,但在SIPR网络中可能执行恶意操作,这完全可能。”虽然从这些网络中窃取数据难度大,但恶意代码可用于内部攻击。“最可能的是某种分布式拒绝服务攻击。”
Triner表示,即使是更微妙的影响,如减缓情报行动,也可能造成损害,导致用户对工具失去信任,即使问题修复后亦如此。
随着通过AI助手编写代码(vibe coding)变得普遍,代码审查难度加大。AI生成代码的速度远超人类,使得审核耗时且复杂。
Williams说:“使用AI代理时,无法了解代码的供应链或推理链。许多训练大型语言模型(LLM)的代码本身存在漏洞,AI可能重复生成类似的架构和安全问题。”
政府通过静态应用安全测试(SAST)扫描代码中的漏洞,防止有缺陷代码运行。但Williams指出,黑客植入的“后门”不被视为漏洞,可能逃过SAST检测。SAST通常也无法识别代码逻辑链中的结构性问题。
目前没有迹象表明黑客已进入机密或绝密系统,但Williams强调此事件应引起高度警惕。“从架构上讲,国防部对NIPR的任何非公开信息都严格保密,无论是否涉及机密网络。”
这并非国防部首次因AI相关问题而暴露风险。去年,ProPublica报道微软在与联邦政府合作项目中使用“数字护卫”,即由持安全许可的美国员工监督中国外包人员编写的代码。专家指出,该项目存在安全隐患,因为美国员工往往无法亲自审核代码,可能导致恶意代码被无意中植入政府系统。


