在整个AI行业中,用户越来越意识到部署成本的高昂,并急切希望降低开支。虽然开源模型在每个令牌的成本上明显更低,但找到适合特定任务的模型仍然具有挑战性。
周四,专为营销人员提供AI工具和代理服务的Writer公司发布了其旗舰新模型Palmyra X6,旨在帮助用户解决这一难题。该模型基于Z.ai开源模型GLM-5.2进行后期训练调整,Writer表示新系统能够以更低的价格提供即用型部署能力。公司估计,结合对其框架基础设施的改进,新模型可使客户在执行基础任务时节省多达50%的成本。
除了新模型,Writer还对其标准代理框架进行了重大升级。这两项功能将从周四起向Writer客户开放。
“我认为企业已经厌倦了不断追逐新的性能指标,”CEO May Habib在接受TechCrunch采访时表示,“他们希望成本趋于平稳,但似乎没人能做到这一点。”
新方案特别强调对复杂多步骤任务的快速执行和令牌使用的减少。Writer认为,优化框架是实现这一目标的关键手段。

Writer研究人员最近发表的一篇论文支持了这一观点,论文测试了多种模型中框架效率的小幅调整。研究发现,在许多情况下,优化框架比选择模型更能有效降低成本,测试中平均节省了40%的费用。
“框架是唯一一个其效率能在组织运行的所有现有及未来模型中产生乘数效应的组件,”研究人员写道。
对于Writer的客户来说,体验依然是模型无关的:Palmyra X6将与其他Writer模型或通过Azure和Amazon Bedrock导入的外部模型并存。但Habib也认为,降低成本的需求正在推动企业对大型AI实验室的信任危机,因为这些实验室有推动令牌使用量增加的经济动机。
“客户面临的成本激增是前所未有的,CIO们对这些实验室的信任也在逐渐消失,”Habib告诉TechCrunch,并补充说AI实验室“并不真正理解如何帮助企业从AI中获益。”


