AI资讯Laplace Intelligence在机器人和自动驾驶汽车投入实际应用前进行红队测试
如果说OpenAI与Hugging Face事件给我们带来了什么教训,那就是AI代理可能表现出不可预测的行为。 Laplace Intelligence的首席执行官兼联合创始人孙浩威告诉TechCrunch:“试想如果类似事件发生在现实世界中,AI代理正从计算机走向现实世界,我们绝不希望物理AI在现实中出现失误。” 总部位于安娜堡的Laplace正在构建自动化红队测试系统——通过故意尝试使系统失败