本周，Salesforce在其大型Dreamforce技术大会上发布了一款名为Koa的新型AI模型，这是该公司首个推理模型，基于Nvidia的开源权重Nemotron模型打造。两家公司合作对Koa进行了后期训练，使其在销售、市场营销和客户支持等任务上表现出色。

Koa的出现凸显了企业界对AI需求与前沿实验室所提供产品的差异。许多专有AI实验室希望企业直接上传文件、代码、提示和反馈到他们的模型和代理中，并为此投入巨资。

而Salesforce通过Koa为企业客户提供了：

  • 一个开放权重的替代方案，区别于封闭的前沿模型
  • 一个专门针对特定工作任务训练的模型，而非解决复杂数学难题
  • 一个未使用任何真实客户数据训练，避免数据泄露风险的模型
  • 一个能减少AI使用成本、以更少token完成相同工作的模型
  • 一个可根据需求自动通过AI“网关”路由的模型
  • 一个完全遵守客户数据要求和Salesforce内嵌安全机制的模型

Koa将作为Salesforce Agentforce平台中其他模型的替代选项，帮助客户构建自动化代理，处理如客户服务问答或预约安排等重复性任务。

Salesforce AI执行副总裁Jayesh Govindarajan表示：“我们已经构建了许多小型任务专用语言模型，作为Agentforce产品组合的一部分，但推理能力一直依赖于前沿模型提供商，直到现在。”

在Koa之前，若代理需要处理复杂或多步骤任务，这些请求会通过Agentforce的AI网关转发给如Claude或ChatGPT等前沿模型。

Govindarajan指出，之前未能开发自有企业级前沿模型的原因在于缺乏预训练基础模型。Nemotron的出现填补了这一空白，它是首个具备先进水平、数据来源明确的美国主权预训练模型。他还提到，对比之下，阿里巴巴的Qwen模型训练数据来源不明。

后期训练意味着将通用模型转变为熟悉销售和客户支持知识的专业模型。Salesforce和Nvidia并未使用任何真实客户数据，而是构建了模拟客户行为的合成数据。

Govindarajan描述道：“我们模拟了一个客户服务环境，设定了客户服务专业人员角色，包括愤怒的客户致电客服中心，以及试图促成交易的销售专业人员。”

Koa旨在更好地完成Salesforce客户希望代理执行的工作任务，并在token消耗上比Claude或ChatGPT更经济。

Nvidia企业生成式AI软件副总裁Kari Ann Briski表示：“Nemotron拥有独特的推理架构，能高效利用token。这是实现主权AI、快速响应和高效推理的三大关键要素。”

不过，Salesforce并未完全放弃Anthropic或OpenAI。公司刚宣布与Anthropic合作推出Claudeforce，允许企业使用Claude作为AI接口，同时确保数据留存在Salesforce的记录系统中，由其基础设施保障安全。