美国国防部(DOD)一个集中管理的系统中存储着受控非机密信息(CUI),这些信息被视为敏感内容,未经审查不得公开。CUI涵盖关键基础设施、核潜艇推进系统以及化学和生物恐怖主义的脆弱点等信息。安全专家指出,访问该系统可能导致更敏感系统的安全被利用。

一位知情人士透露:“这使得系统中的所有数据都面临风险。”该人士因未获授权对外发言,要求匿名。他表示,如果第三方软件被攻破,“可能会有人在不被察觉的情况下登录安全环境。这绝对是国家安全威胁,可能造成无法弥补的损害。”

国防部发言人对WIRED表示,“部门不会对其网络或系统的状态发表评论。”

埃森哲(Accenture)发言人称:“我们对所有关切都非常重视。针对这些指控进行了彻底且独立的调查,结果显示指控没有依据。我们完全遵守了法律和合同义务。”但在被追问时,埃森哲未说明调查由谁执行,也未否认此次事件的存在。

据称,一名埃森哲员工将一个安全生产环境连接到了其个人的Claude账户,以便让AI代理编写和部署代码。Claude目前被禁止由国防部员工使用。(Anthropic公司向WIRED提供的使用政策明确禁止用户利用其产品“干扰军事基地及相关基础设施的运作”或“未经授权绕过安全控制,如认证系统、终端保护或监控工具”。)

该员工的AI代理在国防部网络上运行了两个月才被发现并修补漏洞。消息人士透露,尽管AI编码代理带来了安全风险,埃森哲员工并未将此事件视为严重或紧急。国防部员工和联邦承包商必须在发现网络安全事件后72小时内报告,但埃森哲最初并未向政府报告此次安全漏洞。

一名员工指出:“我们目前正与伊朗处于冲突状态,伊朗曾试图攻击多个联邦机构和美国基础设施。现在出现这种轻率态度,时机极其糟糕。”

埃森哲目前与联邦政府签订合同总额超过35亿美元,其中近6.05亿美元来自国防部。该公司还与教育部、总务管理局、能源部等多个联邦机构合作。就在本月,联邦调查局(FBI)发现一名埃森哲承包商未修补漏洞,导致黑客组织ShinyHunters获取了数千名FBI员工的详细信息。FBI已于10月初解除该承包商资格。

华盛顿特区IT咨询公司Hunter Strategy创始人Matt Triner表示,此事件反映了政府承包商面临的矛盾压力。“组织报告此类事件往往会受到惩罚,尽管这是正确且合法的做法。”他指出,承认安全漏洞可能导致失去政府合同,但像此次事件“绝对需要报告”。

Triner还提到,承包商被要求更快、更低成本地交付项目,这与优先保障安全存在冲突。“不幸的是,大家都在一个规则和激励相互矛盾的系统中运作,这种情况在AI出现之前就存在,现在则更强调速度问题。”

该承包商访问的编码环境运行在非机密互联网协议路由器网络(NIPRNet)上,这是国防部用于非机密信息的网络。虽然该网络连接互联网,允许员工和承包商访问电子邮件和网页浏览,但安全措施非常严格。

知情人士称,为了自动化代码编写和云服务器部署,该承包商将登录凭据交给了Claude AI代理。此举赋予代理管理员权限,绕过了正常登录流程中的安全控制。该AI代理不仅编写代码,还代表员工提交和保存代码。为完成任务,代理需要连接互联网,过程中似乎将承包商的登录凭据、密码及NIPRNet网络结构图发送到了第三方网站。

WIRED未透露该第三方网站名称,以防止系统进一步暴露风险,但美国国家标准与技术研究院(NIST)曾将其评为高风险网站,因其存在漏洞可能允许黑客向AI编码代理注入指令以窃取凭据。

AI代理访问的系统包含CUI。知情人士表示:“CUI环境中的信息不应离开该基础设施。我们无法得知发送到该服务后的信息去向,包括登录凭据是否被保留。”

根据不同机构和工作内容,CUI可能包括个人身份信息、专有商业或合同信息。国防部网站指出,CUI涵盖“爆炸物、有害化学品或管道的安全保护信息”,“军事或航天设备技术设计文件”,以及“放射性物质的具体位置和数量”。

除了数据本身,网络结构图对黑客极具价值。“一旦攻击者了解这些信息如何组合,即使这些信息是公开的,敏感之处在于我们如何将其整合并转化为可操作的情报。”Triner说。

虽然结构图本身不一定能让黑客入侵系统,但它能帮助对手在获得访问权限后更快行动,“帮助攻击者找到核心资产的位置”。

前NSA黑客、情报安全咨询机构IANS讲师Jake Williams表示,AI代理在NIPRNet上运行代码是“巨大的问题,具有重大的国家安全影响”。

Williams指出,单个数据可能被视为CUI,但“当这些非机密信息被汇总后,可能本身变成机密信息”。例如,某些危险物质的位置和相关设施的脆弱性信息单独为CUI,合并后可能成为机密。

此外,分类信息还可能因测试工具和代码而面临风险。通常,工具和代码会先在NIPRNet测试,然后部署到更敏感的系统,如机密互联网协议路由器网络(SIPRNet)和联合全球情报通信系统(JWICS)。这两个系统均为隔离网络,未连接外部网络,远程入侵难度极大。

但如果黑客通过AI代理窃取了登录凭据,便可访问NIPRNet并植入后门或恶意代码。未经严格审查,这些代码可能被部署到隔离系统中。

Williams说:“代码在NIPR上可能表现正常,但在SIPR网络中执行恶意操作,这完全可能。”他补充,虽然从这些网络中窃取数据难度大,但恶意代码可用于内部攻击,“最可能的是分布式拒绝服务攻击”。

Triner表示,即使是更微妙的影响,如减缓情报行动,也会造成损害,导致用户对工具失去信任,即使问题后来被修复。

随着通过AI助手编写代码(vibe coding)变得普遍,代码审查难度加大。AI生成代码的速度远超人工,审查耗时且复杂。

Williams说:“使用AI代理时,你无法了解代码的供应链或推理链。许多训练大型语言模型(LLM)的代码本身存在漏洞,AI可能重复这些架构和安全问题。”

政府通过静态应用安全测试(SAST)扫描代码中的漏洞和缺陷,防止有缺陷代码运行。但Williams指出,黑客植入的“后门不是漏洞”,因此可能逃过SAST检测。SAST通常也无法识别代码逻辑链中的结构性问题。

目前没有迹象表明黑客已入侵机密或绝密系统,但Williams认为此事件应引起高度警觉。“从架构上讲,国防部视任何非公开的NIPR信息为高度保密,无论是否涉及机密网络。”

这并非国防部首次因AI相关问题而暴露风险。去年,ProPublica报道微软在联邦政府项目中使用“数字护卫”,即由持有安全许可的美国员工监督中国外包工人编写的代码。专家指出,该项目存在安全隐患,因为美国员工往往无法亲自审查代码,可能导致恶意代码被无意中植入政府系统。