过去,AI领域主要聚焦于大型AI模型的训练阶段。然而,随着前沿AI模型逐渐趋于成熟,业界的关注点正逐步转向利用这些模型进行推理和实际应用的场景。

在此背景下,“Tokenomics”(令牌经济学)这一概念在IT会议中频繁出现。令牌作为AI推理过程中的基本处理单位,其消耗量正呈现爆炸式增长,业界担忧这将导致企业IT成本大幅上升。

例如,微软和谷歌等企业级SaaS服务,过去多采用按用户月费或年费的固定收费模式,但采用前沿AI模型的服务正逐步转向计量付费模式。

以大量消耗令牌的AI代理“Vibe Coding”为例,使用此类工具时产生的费用远超以往,给IT管理者带来了不小的挑战。

日本国家谷歌云亚太区AI市场开发总监Harsha Konduri指出:“企业IT管理者必须能够准确测量ROI和成本,清晰了解成本来源,掌握测量能力至关重要。”企业只有准确把握AI成本,才能有效应对这一挑战。

令牌爆增的主要原因是Vibe Coding,未来或将扩展至白领全领域

当前,企业中令牌使用量激增。日本国家AMD CEO Lisa Su在2023年7月举办的“Advancing AI 2026”活动中表示,过去两年内月度令牌使用量增长了158倍。

Harsha Konduri解释称:“最先进模型在编码等应用中令牌成本显著增加。传统AI模型难以理解人类意图并生成有效代码,而生成式AI之后的前沿模型已实现此能力,令牌消耗和成本同步增长。令牌使用量的增加反映了人类效率的提升和技术的普及。”

目前,软件开发领域普遍采用“Vibe Coding”开发方式,即由AI代理根据人类编写的规格说明书(软件功能、运行环境等)持续生成代码,甚至在真实环境中进行调试。此过程中,前沿AI模型持续运行,消耗大量令牌,导致令牌使用量激增。

虽然目前主要应用于软件开发,但未来前沿AI模型的应用有望扩展至白领业务人员。

近年来,白领用户中使用OpenClaw、NemoClaw等代理型AI的趋势日益明显。随着这类AI的普及,令牌使用量预计将进一步攀升。

令牌激增引发计费体系变革——从固定费率向计量付费转变

正如谷歌云的Konduri所言,企业因AI带来的效率提升而加大使用,令牌数量和成本同步增长。

然而,成本增长速度超出企业预期。戴尔科技COO Jeff Clarke在2023年5月的Dell Technologies World上透露,一些软件开发者每天运行10个AI代理,单日成本高达3400美元(约合53.3万人民币)。

根据日本国家国税厅2024年民间工资统计,日本普通员工年均收入约478万日元,折算月薪约39.8万日元。由此计算,单日AI代理成本已超过日本员工一个月薪资。

Dell Technologies World 2026

令牌数量增加导致成本上升的根本原因在于,处理令牌需要大量GPU计算资源。令牌越多,所需GPU数量越多,意味着建设和运营AI数据中心的成本急剧增加。

因此,传统按用户订阅的固定费用SaaS模式正面临调整压力。

微软365等SaaS产品虽仍采用固定订阅制,但基于前沿AI模型的服务已转向计量付费模式。微软于2023年9月25日发布的新Copilot系列功能,包括基于GitHub Copilot的代码生成功能“Code”及6月Build大会发布的“Autopilot”,均采用计量付费。

谷歌云同样提供“Gemini Enterprise”企业级综合服务,集成了传统的Google Workspace和AI功能“Gemini Enterprise app”。其中,基础AI功能采用固定费用,而“按需付费”计划则满足大规模或试用需求的企业。

计量付费带来的成本预测难题:AI时代“云端与本地部署”之争再起

计量付费模式下,企业难以准确评估投资回报率(ROI)。

固定订阅制按员工数收费,计算简单,ROI评估相对容易;而计量付费则复杂得多。

以戴尔COO Clarke提到的每天3400美元AI代理成本为例,按30天计算月成本约16万美元,折合人民币约1600万元。以日本员工平均月薪39.8万日元计算,相当于雇佣约40名员工。但这些员工是否具备与前沿AI模型相当的能力则另当别论。

Clarke还指出,将这部分计算负载转移至本地部署设备(如NVIDIA DGX Spark)可在约1.5天内收回设备成本,暗示本地部署在成本控制上的潜力。

Dell Technologies World 2026

作为本地设备供应商,戴尔强调本地部署优势不足为奇。但谷歌云的Konduri则表示,除非涉及数据主权需求,目前采用最新AI模型的客户中,选择本地部署的仍不多。谷歌云通过GDC和开源模型Gemma支持客户在所需环境运行AI。

云服务提供一揽子解决方案,软件管理成本和复杂度不容忽视,IT管理者普遍认同本地部署成本并非绝对低廉。云计算的特点是“低投入起步,规模扩大后成本效益下降”,这一传统观点在AI时代依然适用。

因此,云端与本地部署的争论在AI时代依然存在。

控制成本关键在于“AI FinOps”——精准测量与ROI可视化

那么,企业如何正确评估基于前沿AI模型的ROI?

谷歌云Konduri指出:“企业引入IT是为了提升效率和创造经济价值,AI亦是如此。IT管理者应选择具备治理、安全和成本管理的平台,确保成本与价值精准匹配,实现最佳ROI。”

他强调,IT管理者必须具备准确测量ROI和成本的能力,清楚成本来源。通过统一使用谷歌云等云平台,这一目标变得可行。

准确掌握AI成本的做法被称为“AI FinOps”或“FinOps for AI”,正迅速受到关注。FinOps最初是云成本管理工具,AI FinOps则是其AI领域的延伸。

微软在2023年9月25日的Copilot新战略发布会上宣布,将扩展AI FinOps功能,帮助客户精准掌握Copilot使用成本。

谷歌云长期提供“Cloud FinOps”,并推出基于AI的评估工具“Gemini Cloud Assist”。2024年4月谷歌云Next大会上,谷歌发布了自动测量AI支出的“FinOps Explainability Agent”,该代理能分析支出原因和趋势,向IT管理者报告。同时,推出“Spend Caps”功能,允许为项目设置预算上限,接近上限时自动提醒,防止成本失控。

AI FinOps

云端与本地部署的选择固然重要,但这只是手段而非目的。正如Konduri所言,企业引入IT和AI的根本目的是提升生产力和效率。合理投入成本以换取效率提升是目标,避免无谓开支同样关键。

因此,AI时代需要适合的评估方法。面对令牌成本激增,企业应更加关注FinOps工具,确保成本可控,价值最大化。