谷歌DeepMind在短短四周内完成了一项概念验证项目,取得了两方面的重要成果。首先,这项工作为保护全球大量通信的加密技术提供了独立验证,这些通信平台包括Signal应用、Google Messages和WhatsApp。其次,它展示了谷歌DeepMind利用名为AlphaProof Code的新型AI框架进行形式化验证的能力。
更广泛地看,AI辅助的形式化验证正逐渐成为热点,但其在大规模应用中的实用性和对大量代码安全保障的有效性仍未明朗。形式化验证长期以来被视为软件安全领域的“圣杯”,因为它通过数学方法检查和确认软件按预期运行,即没有关键漏洞。
在AI时代到来之前,人工描述软件特性、转化为数学公式并完成证明的过程极为耗时。智能代理AI大幅缩短了后期证明的时间,使得DeepMind对Signal协议的分析成为可能。然而,这次分析的范围有限,例如并未对整个Signal移动应用进行形式化验证,DeepMind研究人员也强调这只是更大进程中的一个里程碑。
“我们对这一成果感到非常兴奋,但距离能够将此方法推广到全球所有软件还有很长的路要走,我们也希望实现这一目标,”DeepMind研究科学家Swarat Chaudhuri告诉WIRED。
DeepMind的分析未发现Signal协议中被检测部分的新漏洞,但当他们用AlphaProof Code检测含有已知且已修复漏洞的旧版本Signal时,工具准确识别了这些漏洞,并表明该协议无法通过形式化验证。研究团队已公开了Signal协议分析中开发的规范和证明,以支持其他形式化验证工作。

尽管项目速度令人瞩目,DeepMind研究人员指出,他们能够取得进展部分得益于Signal基金会之前进行的一些形式化验证工作。
Signal首席技术官Ehren Kret表示:“虽然之前的形式化验证只覆盖了代码的较小部分,谷歌DeepMind的方法实现了显著扩展。随着AI驱动的安全威胁增加,严格验证Signal协议的实现让我们对代码的隐私保障更有信心。”
对于在高风险环境中使用的关键服务,能够对每个代码库和整个软件供应链进行形式化验证无疑是理想状态。谷歌云首席科学家兼DeepMind研究副总裁Pushmeet Kohli说:“如果你现在能验证这些实现的正确性,就可以高枕无忧。想象一下银行和其他依赖保障、担心漏洞的公司,他们现在可以说‘我能证明这些属性’。”
然而,整个科技行业面临的开放性问题是,AI自动化形式化验证是否能真正实现规模化,以及能否以合理成本实现。DeepMind此次Signal协议分析作为研究项目免费进行,谷歌未透露分析成本,也未回应是否计划推出商业形式化验证产品或服务。
研究人员表示,他们的关键进展之一是开发了“人机协作流程”,正如Chaudhuri所说,这种流程允许智能代理在几乎每个阶段贡献并自我纠正,同时在关键节点寻求人类输入和审查。“我们不希望出现AI自定目标、自写证明、自己出题自测的局面,”Chaudhuri说,“我们追求的是一种中间状态。”


