如果说OpenAI与Hugging Face事件给我们带来了什么教训,那就是AI代理可能表现出不可预测的行为。

Laplace Intelligence的首席执行官兼联合创始人孙浩威告诉TechCrunch:“试想如果类似事件发生在现实世界中,AI代理正从计算机走向现实世界,我们绝不希望物理AI在现实中出现失误。”

总部位于安娜堡的Laplace正在构建自动化红队测试系统——通过故意尝试使系统失败来进行压力测试,专注于机器人和物理AI领域。公司认为,确保物理AI安全的唯一途径是让AI来测试它。

孙浩威表示:“我们的目标是帮助企业在部署前发现并修复问题,随着时间推移,建立一个客户、保险公司和监管机构都能信赖的共享证据基础。”

Laplace是本周10月13日至15日在旧金山举行的TechCrunch Disrupt大会Startup Battlefield 200创业比赛中的20家参赛初创企业之一,将于10月13日周二下午在Disrupt舞台进行展示。

Laplace Intelligence团队

孙浩威和联合创始人兼首席科学家刘亨去年从密歇根大学创办了Laplace。孙浩威过去八年一直在学术界研究如何在仿真环境中挑战自动驾驶AI。2023年,他和刘亨——当时的博士导师——发表了一篇关于该主题的论文,登上了顶级科学期刊《自然》的封面。此后,自动驾驶公司纷纷联系他们,希望将这些理念应用于实际。

孙浩威说:“我意识到我想把这项纯学术研究转化为现实世界中有用的产品。”

Laplace的名字来源于“拉普拉斯妖”,这是法国学者皮埃尔-西蒙·拉普拉斯1814年的一个思想实验,假设如果你知道宇宙中一切事物的确切状态,就能完全精确地预测未来。

“我们本质上是利用仿真来预测现实世界的未来,”孙浩威说。

Laplace的核心是一个高保真度的仿真系统,基于现实世界重建,并配备了一个不断探测弱点和故障点的AI代理。目标是在物理AI(无论是机器人、自动驾驶车辆还是智慧城市解决方案)部署到现实世界之前,确保其在仿真环境中的安全性。

该仿真环境是基于Nvidia的Cosmos平台的后训练版本,这是一款AI世界仿真平台,紧密结合现实世界,能够重建从亚利桑那州高速公路到巴黎人行横道的各种场景。仿真通过融合多种现实世界信息网格生成。例如,谷歌街景图像可作为参考,生成整条街道。不同于随机生成,模拟器结合真实地图数据,按比例重现环境。

开发者还可以通过语言指令实时改变场景设置,比如添加下午的交通流量。孙浩威表示,Laplace会从TomTom等导航服务提供商获取实时交通和拥堵信息。

在Laplace的仿真中,不仅环境被模拟,其他参与者的行为也被模拟。例如,在一次演示中,孙浩威指示测试车辆突然转向迎面而来的车道。被测试车辆本应碰撞的车辆却主动避让,避免了碰撞,这与某些生成式世界模型中车辆直接穿过障碍的情况不同。

“这是真正的交互式仿真环境,”孙浩威说,“每个参与者都在相互反应……这更像是一个有互动参与者的世界模型。”

虽然仿真环境是Laplace产品的重要组成部分,但其真正独特的卖点是公司开发的AI代理,这些代理能自动设计边缘案例(即可能导致AI系统失败的复杂罕见场景),进一步减少人为干预。

孙浩威说:“它们可以从新闻、警方事故报告等各种信息中设计测试场景,主动挑战自动驾驶车辆和其他物理AI代理。”

Laplace仿真界面

目前,自动驾驶开发者主要通过录制的影像资料训练AI处理边缘案例,或依赖人工设计新场景。虽然许多自动驾驶公司已开始采用AI生成边缘案例进行训练,比如自动驾驶卡车公司Waabi,但当我们开始在现实世界中部署通用机器人时,这类技术的需求将更加明显。

孙浩威表示:“通用机器人相关数据较少,没人知道现实世界中的边缘案例会是什么样。”

尽管孙浩威和刘亨来自学术界,没有硅谷知名科技公司的背景,但他们已开始实现营收甚至小幅盈利。大部分收入来自自动驾驶领域,客户包括总部位于德州的自动驾驶卡车公司Bot Auto和一家大型日本汽车制造商。

孙浩威还透露,Nvidia也是客户之一。两家公司与T-Mobile合作,在加州圣何塞开展免费的智慧城市试点项目,提供高级交通运营服务。Laplace也正处于与仓库人形机器人制造商合作的早期阶段。

目前Laplace的大部分客户合同是基于项目的,公司正努力将其转变为持续收入。近期目标是借助Disrupt比赛筹集资金并扩大规模,以便与竞争对手抗衡。

其主要竞争对手是Applied Intuition,这是一家备受关注的后期创业公司,迄今已筹集12亿美元,估值达150亿美元。

孙浩威对此并不担忧。他认为Laplace利用AI测试AI的核心方法是一种“全新范式,彻底改变了物理AI的测试方式”,将其转变为“动态交互式测试过程”。

“这将是最大的护城河,”他说。