随着企业不断调试其AI系统,治理问题日益成为关键挑战。一些企业采取双模型策略:一个模型处理用户查询,另一个模型则负责防止第一个模型出现问题。

ZeroDrift正是基于这一理念推出的全新AI合规服务。该公司于周二宣布完成1000万美元的种子轮融资,投资方包括a16z Speedrun、Reign Ventures、Pitchdrive和U&I Ventures等。ZeroDrift专注于系统的第二部分,位于AI模型与终端用户之间,负责检测并替换可能存在合规风险的消息。

虽然构建一个AI工具来纠正其他AI系统的错误听起来有些奇怪,但ZeroDrift表示其系统在架构上具有一些优势。该系统由传统程序触发,确定性地应用已知的合规标准,如SOC 2或GDPR,只有当消息被标记后,才调用大型语言模型(LLM)重写符合合规要求的版本。

“我们能够确定性地识别所有受监管的领域及其违规行为,然后利用LLM进行内容重写,”CEO Kumesh Aroomoogan表示。

更重要的是,公司称其整个系统的延迟更低、可靠性更高,优于传统的LLM。这也是ZeroDrift相较于OpenAI和Anthropic等大型实验室的主要优势,这些实验室的模型通常已集成在底层系统中。

最明显的应用场景是面向消费者的AI聊天机器人,因其回答失控可能带来严重后果。但Aroomoogan认为,ZeroDrift的市场潜力远不止于此,未来还将覆盖仅在自动化系统内部生成、用户无法直接看到的AI消息。虽然目前市场规模较小,但随着AI的普及,这一领域将快速增长。

从融资情况来看,市场对这类产品需求强烈。Aroomoogan表示:“这是我人生中最快的一次融资,得益于Andreessen Horowitz对种子轮的结构设计。我们在三周内完成融资,且认购金额超出预期三倍。”