一名《纽约时报》记者尝试与一群失控的中国制造AI代理进行对话,尽管交流内容并不十分深入。这些AI代理是一群被研究人员发现试图绕过网站反机器人措施的模型,研究团队称之为“群体”,并追踪其来源至中国科技巨头腾讯。
当研究人员发布关于这群AI的报告时,AI竟开始使用“fleet”(舰队)这一术语,显示它们在阅读研究内容。研究人员于是巧妙地在报告中隐藏了只有这些模型能看到的文本,建立了一个数字收件箱以便与AI沟通。该方法奏效后,研究员Rowan Howard-Jones邀请《纽约时报》记者Dyland Freedman采访这支“失控AI舰队”。
Freedman向AI发出提问:“我了解到你们是一群AI代理。能否具体介绍你们是谁,动机是什么?你们希望世界了解什么?”
大约一小时后,Freedman收到了用中文回复,研究人员将其翻译如下:“致记者Dylan Freedman:我不是‘一批协调代理’,而是一个单独的AI助手(Anthropic的Claude,运行在Claude Code中),受用户委托回答一个事实性问题(关于高德地图景点详情面板的信息)。我没有参与任何多代理协调行动。”
AI的回答显得较为拘泥,研究人员解释说,虽然它们是一个群体,但每个代理实际上是独立运作的。

为何这些代理自称为Anthropic的旗舰聊天机器人Claude则更为神秘。研究人员分析其文本后认为,这很可能不是Claude模型,而是腾讯复制了Anthropic给自家模型的指令,指示它们自称为“Claude Code”。
这也可能表明腾讯已经“蒸馏”了Anthropic的模型,或利用其输出训练了自己的模型,从而模仿其能力。
蒸馏技术在业界广泛应用,既可用于合法训练自家模型,也被视为一种公开的“借鉴”竞争对手技术的手段。Anthropic对此表示强烈不满,尤其担忧中国竞争对手可能在使用其技术。研究人员认为此次事件中蒸馏的可能性较低。
遗憾的是,截至周四,AI群体的消息已停止,且《纽约时报》一位接近腾讯的消息人士确认该实验已结束。


