Anthropic自称是AI行业的道德中坚，但近日被曝出秘密监控其用户。
据《Ars Technica》报道，一位名为“Thereallo”的安全研究人员上周发现，Anthropic的Claude Code AI模型中藏有类似间谍软件的代码，旨在悄无声息地收集中国用户的数据。
该代码隐藏在AI的系统提示中，能够追踪用户的系统时区和代理服务器使用情况，以判断用户是否连接到特定的中国AI实验室。
对此，Anthropic的回应并未平息用户的质疑。Anthropic工程师Thariq Shihipa在社交平台X上表示，这个追踪器是三月份作为“实验”添加的，目的是“防止未经授权的转售商滥用账户并防止模型蒸馏”，并且本应被移除。
“我们其实早就打算把它撤掉了，”他补充道。
所谓“蒸馏”是指用更先进的“教师”模型的输出训练较弱的“学生”模型，这在行业内是常见做法，但主要AI开发者越来越觉得一些新兴公司滥用这一手段，借此搭便车。今年早些时候，Anthropic曾指控中国AI公司DeepSeek、Moonshot和MiniMax非法蒸馏其模型。讽刺的是，Anthropic本身的技术训练过程就是通过扫描和拆解数百万版权书籍以及几乎整个互联网内容，且未经许可。
《华盛顿邮报》近期报道还揭露，一些中国转售商以约12美元/月的价格出售美国市场上超过100美元/月的Pro Claude订阅服务。
这确实是Anthropic面临的一个真实问题，但其试图秘密打击这一行为的做法无疑踩到了雷区。Anthropic之所以赢得众多用户的忠诚，部分原因是其公开承诺的伦理和透明的AI开发理念。大量ChatGPT用户转向使用Claude，正是因为Anthropic曾公开反对五角大楼，要求其技术不得用于对美国公民的大规模监控。
此次收集的数据虽然没有严重侵犯隐私，但原则上已经越过了界限。
“Thereallo”在发布调查结果时写道：“编码代理本身就处在一个令人担忧的边界上，它们可以检查代码、意外总结秘密、运行命令、安装软件包、编辑文件并在本地机器上提交代码。”
但“将信号隐藏在系统提示中，让其他所有隐私声明都变得难以置信。”
“公司可以保护他们的模型，”他们强调，“但当一个拥有文件系统和shell访问权限的工具开始将分类信息隐藏在看不见的提示符号中时，正确的反应应该是审查。”
更多AI资讯： 专家称现有开源AI模型恐怖程度堪比Mythos
