几十年来,开发者一直梦想利用数学证明他们的软件无漏洞。然而,这一过程既漫长又繁琐,工程师们需要精确描述软件目标,并将代码转化为可验证的数学公式。尽管许多公司已经通过复杂测试尽力发现软件缺陷,但很少投入形式化验证——一种能捕捉更多异常行为的技术。

如今,一波创业公司押注生成式人工智能(AI)将使形式化软件验证变得既实用又必不可少。其中,&Truth公司于今年8月迎来了Sun的加盟,并于本周四正式公开亮相。Sun的研究展示了AI验证Signal消息应用中加密代码部分的潜力。

&Truth首席科学官Ilya Sergey表示:“桥梁和建筑不会倒塌,是因为建造前做了数学计算。为什么我们不对代码做同样的事?数学推理技术早已存在,只是难以规模化。”

&Truth已筹集7000万美元资金,目标是最终支持任何编程语言的验证。竞争对手Harmonic由Robinhood CEO Vlad Tenev联合创立,获得2.95亿美元融资,本周宣布其以数学为核心的AI代理Aristotle支持验证C语言软件及Verilog硬件设计,正与芯片制造商Tensordyne和Nvidia(后者为投资者之一)评估技术。

上周,Anthropic与验证初创公司Theorem联合宣布,利用AI辅助发现了数万亿次测试未能检测出的开源软件漏洞,并推出了Claude的验证插件,帮助更多开发者。项目初期成本未披露。

这一切的巨大前景是未来软件运行更可靠,安全问题更少。但AI能否将形式化验证从NASA、苹果等关键系统推广到广泛应用,仍是未知数。

目前技术仍处于原型阶段。尽管需求旺盛,但客户愿意支付多少费用、如何采用尚不明朗。形式化验证依赖于对计算机与用户交互的假设,一些专家质疑其能否捕捉因用户错误或硬件故障引发的漏洞。

Antithesis公司创始人Will Wilson称形式化验证是“数学宅的陷阱”。该公司为其网络安全防御投入数百万美元进行形式化验证,过程“极其繁琐”,但仍通过自家工具发现了额外错误,甚至在客户已验证的软件中发现漏洞。他认为:“形式化验证能提供一定保证,但只有全面彻底的测试才能真正证明保证的有效性。”

以太坊创始人Vitalik Buterin今年早些时候在博客中也表示,“形式化验证不是万能药”,但他和其他支持者仍认为它是防范AI发动网络攻击的重要手段。

核心安全领域

波音飞机、亚马逊服务器以及超过25亿活跃苹果设备中都包含部分经过形式化验证的软件,通常涉及安全相关代码,漏洞一旦被利用可能造成严重后果。

亚马逊云服务副总裁兼杰出科学家Byron Cook表示,形式化验证缓解了客户对云安全的担忧,并帮助内部团队更快解决重大漏洞。

然而,多家中型科技公司告诉WIRED,他们通常只验证产品的一个关键功能,甚至根本未进行验证,原因包括缺乏验证工程师、成本高于潜在风险,以及担心等待数周完成验证会拖慢创新步伐。

今年早些时候,苹果安全团队表示,形式化验证在其加密库“corecrypto”中发现的问题无法通过其他方式检测,但也强调必须“谨慎”添加新代码以保证审查速度。

两位未公开身份的网络安全高管表示,不确定自动化是否值得投入,但愿意为“经过验证”的AI生成代码向大型AI实验室付费。

开源软件开发者也在尝试AI辅助验证。非营利组织Beneficial AI Foundation利用Anthropic资助验证了与Sun在斯坦福相同的加密代码。库维护者Michael Rosenberg希望能获得持续资金支持,但坦言“不知道资金从何而来,也不应依赖AI公司的善意”。

一些创业公司尚未决定是直接向客户提供工具,还是通过Anthropic等中介。他们计划用AI自动化定义程序行为的过程,例如确保数据表排序前后包含相同元素。后续自动化(可能不依赖AI)将代码转化为数学工具如Lean、Rocq和Isabelle可用的格式,验证代码是否符合预期。

另一位新进者Madan Musuvathi离开微软研究院创办Truidic,因OpenAI攻击Hugging Face事件感到验证商业化迫在眉睫。他说:“攻击者手中的AI极具威力,验证能让AI在任何地方都安全可靠。”

长期提供传统验证的Proofcraft公司表示,形式化验证热度上升,潜在客户咨询激增。CEO June Andronick和首席科学家Gerwin Klein称,需求远超他们及竞争对手的供给能力。

但他们也担忧AI生成的规格可能带来“无根据的信任”。Klein形容验证工作“令人上瘾,像解谜游戏”,如果一切顺利,他将比以往更频繁地解决难题。