在AI代理时代,单纯计算一个聊天机器人请求所消耗的电力已远远不够。如今的AI模型更加复杂,通常设计为能够自主完成复杂任务,不仅包含大型语言模型,还集成了众多工具和应用层,这些都比单一的聊天机器人消耗更多电力。

这使得计算它们的总电力消耗变得更加复杂。然而,由于顶级私营AI实验室对内部能耗保持沉默,我们几乎无法准确判断这些AI助手对电网的实际影响。

气候科学家Zeke Hausfather在一篇由《连线》杂志报道的博客中,尝试估算他使用Anthropic开发的AI编程助手Claude Code时的能耗。

通过测量AI助手处理的token数量,Hausfather估计他每天的平均用电量在1.2到5.9千瓦时之间——这一数字令人震惊,相当于两个冰箱全天运行的用电量。

在八周期间,他的AI代理共处理了32亿个token,其中大部分来自代理“反复读取自身工作记忆”,每当工具执行新步骤时都会发生这种情况。

Hausfather解释道:“每当代理执行一步操作(例如运行命令、读取文件或调用工具),模型都会重新处理其累积的全部上下文。”

他补充说:“我实际看到的文本(即模型输出)仅占处理token的0.4%左右,约96%的token是缓存读取,代理在每个约14,000个步骤中反复读取自身上下文。这对能耗估算影响巨大,因为缓存token的重新读取远比处理新token耗能低得多。”

将这些数据推算到全年,Hausfather认为他的年排放量“略高于使用电动烘干机的排放量,大约是加州驾驶电动汽车11,500英里排放量的一半”。

虽然这个数字看似不大,但在庞大的AI用户群体中,累积的能耗将非常可观。同时,这也“代表了一种新的净排放源”,而全球气温持续攀升,减排目标日益难以实现,气候科学家对此表示担忧。

不过,具体的气候影响仍不明确。《连线》指出,AI可持续性研究员Boris Gamazaychikov称Hausfather的计算是“不错的尝试”,但基于过时数据。Gamazaychikov关于AI代理能耗的最新研究预计将在九月发布,届时可能会极大改变我们对AI代理真实成本的认知。