使用AI生成各种内容，从作业到邮件再到代码，虽然方便，但一旦需要承担责任，问题就来了。Anthropic近日宣布，其Claude聊天机器人将对生成的文本加水印，这意味着那些试图偷偷使用AI生成内容的人可能会被识别出来。此举在AI圈内引发了轩然大波。

有用户在r/ClaudeAI社区愤怒表示：“这是我听过最愚蠢的事情。难道以后写非水印文本还要出示身份证吗？”另一位用户则担心：“这个水印会成为任何可售文本的致命伤，没人愿意为带水印的内容买单，这简直就是一颗红字。”

当然，也有网友用幽默的方式调侃：“我还以为它已经通过每四个词插入一个破折号来做水印了。”

TechCrunch报道，在r/artificial社区，一位名为visionode的用户发表了长篇激烈的批评，将水印机制比作警察的不公执法和系统性压迫。他写道：“被抓到的会是你——那个用Claude重组段落的学生，那个让AI总结两百页记录的记者，那个遇到写作瓶颈求助同义词的作家。他们都会被贴上数字纹身。”

他还说：“这让我想起那些抓吸毒者而放过毒贩的警察行动，水印机制也是如此。”他认为这会制造出一群“肮脏”的创作者，因为他们敢于使用AI工具。

不过，这篇帖子并未获得广泛支持，许多网友反驳了他的观点。

Anthropic表示，水印系统是为了响应2024年欧盟通过的AI法案，该法案要求AI公司标记由其系统生成或编辑的内容。水印通过在生成文本中做出细微的词汇选择变化实现，这些变化对人类来说几乎不可察觉，但通过专门工具可以检测出模式。

这种方法并非万无一失。Anthropic称水印在一定程度的编辑后仍能保留，但如果内容被复制并用其他聊天机器人重写，水印可能会被破坏。Ars Technica指出，这种词汇选择可能会影响文本质量，用户可能不得不在没有AI辅助的情况下润色文章。

更糟的是，一旦Anthropic公开了检测工具的工作原理，恶意用户可能会开发工具去除水印。类似情况已经出现在Google DeepMind的SynthID图像水印系统上，尽管目前还没有完全去除水印的方法。

更多AI资讯：游戏开发公司CEO被指用AI替代作家，现状令人关注。