Anthropic公司最近在旧金山举办的开发者大会上宣布了一项名为“dreaming（梦境）”的新功能。这是Anthropic新推出的AI代理基础设施的一部分，旨在帮助用户管理和部署自动化软件流程的工具。所谓“dreaming”功能会梳理代理最近完成任务的记录，试图从中提取洞见以提升代理的表现。

使用AI代理的人经常让它们执行多步骤任务，比如访问多个网站或阅读多份文件，以完成在线操作。这个“dreaming”功能让代理能够在活动日志中寻找模式，并基于这些洞见提升自身能力。

这个功能的名字立刻让人联想到菲利普·K·迪克的科幻经典《机器人会梦见电子羊吗？》，该小说探讨了真正区分人类与强大机器的特质。尽管我们现有的生成式AI工具远不及书中那些机器，但我想在这里划清界限：请不要再用模仿人类认知过程的名字来命名生成式AI功能。

Anthropic在其博客中写道：“记忆和梦境共同构成了一个强大的记忆系统，帮助代理自我提升。记忆让每个代理在工作时捕捉所学，梦境则在会话间隙优化记忆，整合跨代理的共享学习并保持更新。”

自2022年聊天机器人革命爆发以来，AI公司领导者们纷纷将生成式AI工具的某些功能命名为人脑活动相关的词汇。OpenAI在2024年发布了首个“推理”模型，聊天机器人需要“思考”时间，公司当时称其为“设计让AI模型在回应前花更多时间思考的新系列”。许多创业公司也称他们的聊天机器人拥有关于用户的“记忆”，这些“记忆”并非计算机中快速存储的数据，而是更像人类的碎片信息：他住在旧金山，喜欢下午的棒球比赛，讨厌吃哈密瓜。

这是AI领导者们一贯的营销策略，他们不断强化模糊人类行为与机器能力界限的品牌形象。甚至像Claude这样的聊天机器人被赋予不同的“个性”，让用户感觉自己在与一个可能拥有深层内心世界的存在对话，仿佛它即使在笔记本电脑关闭时也会做梦。

在Anthropic，这种拟人化不仅仅是营销手段。公司宪章中提到：“我们也用通常只用于人类的词汇（如‘美德’、‘智慧’）来描述Claude的行为。因为Claude的推理默认会借鉴人类概念，这与其训练中大量人类文本有关；我们认为鼓励Claude具备某些人类特质是积极的。”公司甚至聘请了驻场哲学家来探讨机器人的“价值观”。

这不仅仅是我对用词的挑剔。我们如何谈论这些机器，会影响我们对它们能力的认知。发表在《AI与伦理》期刊上的一篇研究指出：“拟人化作为一种谬误，会扭曲人们对AI的道德判断，比如其道德特性、地位，以及责任和信任的评判。”如果不使用更客观的语言描述机器人，用户可能会过度信任这些工具，并将不存在的特质投射到它们身上。

正如我们的AI领袖们需要花更多时间去观看他们所引用的科幻电影一样，我认为他们也应该多读读这些经典科幻小说。

迪克的小说结尾，主人公带着一只罕见的蟾蜍回家，他坚信这是真正的活物，直到妻子打开控制面板证明它只是机器。“他沮丧地默默凝视着这只假动物，接过它，摸弄着腿，好像困惑不解——他似乎并不完全明白。”同样，科技领袖们似乎无法，或者至少不愿意接受他们那些非人类工具的局限性。