机器人领域的一个重要趋势是将控制权交给生成式AI模型,但这也带来了一个问题:这种架构不像传统算法那样可预测。如何确保全新的人形机器人是安全的?
卡内基梅隆大学Safe AI实验室主任丁钊博士几乎将整个职业生涯都投入到解决这一问题。如今,他与资深创业高管Kyle Wong和机器学习工程师Simo Rachidi共同创办了Safeworld公司,旨在解决机器人安全问题。
丁钊表示:“我们面临的安全挑战主要有两方面,一是先进的生成式AI概率评估——如何评估概率系统的风险?二是信任问题,而这两者都是机器人部署的关键。”
Safeworld今日宣布完成超过1200万美元的种子轮融资,领投方包括Shine Capital和a16z Speedrun,其他投资者有Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors和SV Angel。
a16z Speedrun合伙人Jonathan Lai告诉TechCrunch:“现在正是建立机器人行业安全标准的最佳时机,趁机器人还在设计和部署阶段。等到机器人进入家庭,与孩子发生碰撞并引发安全事故时,那就太晚了。”
Safeworld的核心技术是在模拟环境中评估机器人控制系统,模拟中包含逼真的人类模型。这类似于特斯拉或Wayve等公司面临的挑战——确保车辆能正确应对道路上的各种突发情况。但丁钊认为,机器人面临的挑战更大,因为它们工作在非结构化环境中,而且不同场所的安全标准各异。
Wong举例说:“比如工厂里有个盲角,机器人需要控制速度和制动距离,确保不会与人发生碰撞。如果有人手里拿着箱子,机器人能否识别到人?”
为了解决这些问题,Safeworld会在Genesis或MuJoCo等模拟平台上构建数字化的工厂角落模型,植入正在评估的机器人及其真实软件,然后运行成千上万的人机交互场景。丁钊指出,这比看起来更难,因为人的行为难以预测。
Wong补充:“比如绊倒跌倒的情况,我们会在模拟中大量测试,否则就得让机器人反复面对人跌倒的真实场景,这显然很难实现。”

Safeworld的平台与机器人制造商内部使用的工具有相似之处,但创始团队认为,机器人制造商更希望有第三方机构来验证他们的工作,尤其是为了在竞争对手之间共享安全案例信息。
丁钊说:“很多人低估了这些边缘案例的复杂性。我们担心的不是演示环境中的机器人,而是大规模部署、面对可能从未操作过机器人的普通人的机器人。”
Gritt Robotics首席技术官Vishal Dugar正在开发用于工业规模光伏电站安装机器人的AI大脑,未来计划承担更复杂的建筑任务。他的公司正与Safeworld合作开发安全模拟。
Dugar表示:“我们的系统很难通过数学公式或方程式来形式化证明安全,必须通过经验方法验证。”
他的机器人与人类工人并肩作业,确保机械臂不会撞到人是首要考虑。为此需要考虑各种潜在场景。
他指出:“人类外观多样,身体姿态各异,可能跪着、站着、绊倒、蹲着或奔跑。机器人必须能应对这些行为,同时还要考虑服装、体型、身高、肤色等多种差异。”
Safeworld和生成式AI机器人领域仍处于早期阶段,公司正在探索最佳产品模式——是打造面向外部用户的平台,还是提供基于服务的解决方案。但团队坚信他们正解决一个关键问题。
丁钊说:“我们可能是该领域首家盈利的公司,因为任何想要部署机器人的人都需要付费让我们来保障安全。”


