OpenAI宣布，为了遵守欧盟《人工智能法案》（EU AI Act），将开始在欧盟范围内对ChatGPT和Codex生成的文本添加一种不可见的水印。该消息于周一通过官方博客发布。

根据8月2日生效的《欧盟人工智能法案》透明度规定，AI公司必须以其他系统能够识别的方式标记AI生成的内容。OpenAI表示，这种水印将在未来几周内逐步向欧盟所有计划中的符合条件的ChatGPT和Codex用户推出。

此外，全球开发者使用OpenAI的API时，可以从今天起为部分模型开启水印功能，但默认是关闭状态。OpenAI强调，文本水印功能暂时不会在全球范围内默认启用。

这种水印并非传统的符号，而是通过微妙调整模型的词汇选择，形成一种肉眼无法察觉但检测器能识别的模式。由于水印存在于文本本身，复制粘贴时水印依然有效。OpenAI表示，水印不会识别用户身份，且开启水印后模型性能无明显变化。

OpenAI还发布了一份名为textGrain的技术报告，介绍了该水印方法。该报告由OpenAI与宾夕法尼亚大学和耶鲁大学的研究人员共同撰写，详细说明了如何使用密钥对下一词预测进行排序，从而在文本中嵌入水印。累积数百次这样的调整后，检测器仅凭文本和密钥即可识别AI生成内容。

关于水印是否能被编辑去除，OpenAI的测试显示，替换10%的词汇为同义词后，检测率从约92%降至66%。此外，短文本、数学答案和翻译文本的检测难度更大。

OpenAI表示，这些限制促使他们初期仅向经过批准的研究人员和专家机构开放检测器，以便评估其可靠性和负责任的使用方式。

公司还提醒，缺少水印并不意味着文本一定是人类创作，可能是文本过短、经过大量编辑，或者来自其他公司的AI生成。

OpenAI指出，水印只能表明文本部分由OpenAI系统生成或处理，但无法说明其中包含多少人类判断、编辑或创造力。

此次公告发布于Anthropic宣布将在其AI模型Claude生成的文本中添加水印两个月后。Anthropic的水印措施适用于全球范围，但引发部分用户不满，他们认为自己提供了“指令、上下文和决策”，而Claude只是“工具”。

据《华尔街日报》2024年报道，OpenAI曾开发过文本水印技术，但因担心用户转向不带水印的竞争对手而暂未发布。

Anthropic、Google、Meta、Microsoft和OpenAI等公司均承诺遵守欧盟关于AI生成内容的行为准则。