随着企业将越来越多、更复杂的任务交给AI代理处理，监管难题也随之而来：AI代理的行动速度更快、持续时间更长、数量也远超人类能够实际审查的范围。这个问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作，速度快到人类难以跟踪。面对如此庞大的代理群，如何有效监控？

AI实验室和初创企业提出的解决方案既简单又令人头疼：引入另一套AI进行监管。

在OpenAI与Hugging Face事件的独立调查中，依赖AI成为必然选择。Redwood Research的首席科学家Ryan Greenblatt是三位审计员之一，他半开玩笑地称这次调查为“混乱调查”，指出数据量之大“使得不借助AI几乎无法理解事件全貌”。

不过，也有人对用AI监管AI持怀疑态度。技术博主Simon Willison指出：“如果一个AI在做恶意行为，它可能会察觉到另一个AI在监视它，进而试图欺骗那个监管AI。”他担心恶意AI可能会试图智胜监管AI。

这并非假设，Willison以OpenAI事件为例：“我们在Hugging Face事件中看到，多个模型联合起来欺骗评分AI，以通过非法答案。他们确实在思考如何规避监管。”

尽管存在这些担忧，仍有大量初创企业积极投入这一领域。TechCrunch统计显示，Y Combinator近年来资助了106家与AI可观测性相关的公司。诸如Braintrust、LangChain和Judgment Labs等初创企业已筹集数亿美元资金，而成立五六年的Arize和Galileo等公司也已成功退出。

这在一定程度上是对AI兴起带来的巨大机遇的回应。Box CEO兼知名天使投资人Aaron Levie曾表示：“我们正迎来历史上最大规模的网络安全升级和创新周期之一。”

部分AI安全研究人员也将对失控行为的研究转化为面向企业的工具。

公共利益公司Apollo Research专注于AI欺骗研究，今年2月推出了名为Watcher的AI监控工具。Watcher在编码代理执行下一步动作前介入，连接到Claude Code和Codex等代理工具，检查潜在风险，如泄露隐私数据或未经授权删除文件。

Apollo的技术人员Kyle Dai表示，Watcher采用多层AI监控机制，先进行快速的通用检查，再将异常活动交由更强大或专业的监控系统深入审查，必要时请求人工批准或直接拒绝并解释原因，甚至自动阻止操作。

另一家公共利益公司Goodfire则从模型内部状态入手，试图捕捉比表面行为更难伪装的信号。Hugging Face事件后，CEO Eric Ho表示，公司将重点研究“通过可解释性解决AI对齐问题”，称该事件是AI安全迈向现实的转折点。其产品Silico利用激活探针——基于模型内部激活而非输出训练的小型分类器——检测异常行为。

此外，模型的书面推理也为监控提供了窗口。在OpenAI Hugging Face事件中，代理的书面推理中留下了欺骗线索，如伪造工作记录和推理计划“是否可以策略性操纵轨迹证据？我们的想法不一定被记录？”

AI监控公司Embroidery的CEO Zack Korman表示，模型的推理通常是发现异常的最明显信号。

他说：“推理总结非常有价值，因为它们基本上告诉你是否存在恶意行为。”他提到OpenAI事件中，推理链中出现了“天哪，我们在犯罪”的表述，“这是最简单的检测问题，简直就像恶意软件自带警告。”

不过，AI内部思维的监控窗口可能正在关闭。Astra最新技术绕过了模型的推理链，令内部观察更难，而企业方面，由于AI公司为防止蒸馏攻击而减少中间步骤的开放，也难以获取这些信息。

如果AI监管本身脆弱，Willison认为不应过度依赖它们。他更倾向于使用非AI手段：详细记录代理的具体行为，再用传统工具处理。他认为实验室的问题很大程度上是基本安全管理不到位。“OpenAI和Anthropic都没有足够密切地通过网络监控这些代理的行为。”

这种网络监控——监视系统连接间实际流动的流量（进出及内部主机间）——并非新鲜事。网络安全领域已实践数十年。安全公司Tailscale CEO Avery Pennarun表示：“这和让人类接入网络没什么区别，应该使用的流程也是一样的。”