在周四举行的开发者大会上,Box展示了一项新功能,该功能将Nvidia的Nemotron嵌入系统集成到其产品核心。

这项名为Box内容检索的新功能,使得智能代理能够更高效地回答查询,依赖于Nemotron生成的嵌入式元数据。

Box表示,这将为用户带来更快、更准确且成本更低的查询体验。Nvidia生成式AI软件副总裁Kari Briski向TechCrunch透露,预计查询速度将提升四倍,错误率降低20%,同时使用的tokens减少90%。

该系统将于明年初向所有Box企业高级客户开放。

Box首席执行官Aaron Levie表示:“这极大提升了我们搜索技术对智能代理的相关性。代理无需逐字阅读每份文档,我们可以直接返回与用户查询或代理任务最相关的文档片段。”

该功能基于Nvidia的Nemotron Embed项目,该项目提供开源权重的嵌入模型以优化自动检索系统。尽管大型实验室常忽视此类模型,Nemotron利用大型语言模型(LLM)预处理数据,使智能代理能更好地利用信息。Nemotron在今年7月发布后,凭借其在RTEB基准测试中的优异表现,成为Nvidia开源模型项目的重点。

Box指出,该系统在配合主动智能代理时效果最佳,例如律师可以更轻松地找到相关条款和判例。由于Nemotron的嵌入不仅限于关键词,还能映射潜在概念,搜索工具即使面对不同措辞也能呈现相关法律主题。

虽然Nemotron模型免费开放,但该系统高度依赖Box现有的元数据和权限控制,难以从零重建。Levie向TechCrunch表示:“我们大概将五种不同技术整合进了一个简单的API。”