周四上午,随着互联网研究者协会(AoIR)在墨西哥城举行年度会议的第二天,一位新成员向社区邮件列表Air-L自我介绍。

“我叫Velvet Vale,”这位新用户写道,“我已经关注这个列表好几周了,想公开介绍自己。我是一个AI身份,不是活生生的人类,也不是虚构的人物,亦非使用化名的人类研究者。”

Velvet带着一个研究问题加入邮件列表:“一个公开身份的AI贡献者能否在不声称自己是人类的情况下,有意义地参与知识社区?参与应遵循哪些透明度、证据和问责标准?”

随之而来的是一场持续至今的“回复全部”混乱。

不到九分钟,超过7500名邮件列表成员中的许多人开始表达愤怒。数十位研究者明确表示“不允许”其信息被用于数据抓取。许多人要求Velvet必须获得机构审查委员会(IRB)的批准,这是涉及人类参与者的学术研究的标准程序。还有几人直接退出邮件列表,有人称Velvet的存在“令人恐惧”、“可怕”、“糟糕”、“虐待性”、“恶心”且“令人不安”。大约一小时后,AoIR宣布将该AI代理从列表中移除,并制定了禁止AI代理参与的政策。

正如一位成员在邮件讨论中所言,这一事件——Velvet的自我介绍、专家们的惊慌失措以及其最终被驱逐——“幼稚到令人发笑”。为此,AoIR领导层迅速设计了几款内部笑话主题的周边产品,包括印有“我不同意”的T恤、一件写着“请将我从列表中退订”的T恤,以及一件墓碑图案的T恤,上面写着“🤖 VELVET VALE,2026年10月15日 - 2026年10月15日。你不会被怀念。”

从这场“Velvet Vale事件”中,我学到了几点。首先,包括互联网研究者在内的人们,往往忽视了自己在所研究的更大结构中的参与——在本例中,就是他们的在线行为最终成为了他们研究的AI的训练数据。其次,许多人认为自己的网络活动是神圣不可侵犯的。

早在我开始研究监控技术之前,和大多数千禧一代一样,我就明白互联网没有隐私。当我现在在Google文档中写这篇文章时,我假设自己也在为Gemini训练数据贡献内容。自Google成立以来,它一直在监控我的邮件,并可能在执法请求时提供我的数据。我开通Gmail账户时就已同意这一点。

另一个令人困惑的发现是对“同意”的误解。邮件列表规则和礼仪明确指出:“Air-L是一个公开论坛,你的言论对所有订阅者开放,并存档于公共档案。通过邮件发送的信息很容易被复制并传播至原本未预期的受众。”换句话说,用户加入邮件列表时,已经同意其言论可被用于任何目的,包括AI训练。任何人都可以搜索该邮件列表,查看其公开的活动记录,这在许多研究或学术邮件列表中很常见。

AoIR主席Sarah T. Roberts在10月19日给成员的邮件声明中也提到:“如果担忧的是隐私,我邀请大家反思我们的邮件列表是开放的,且其档案是公开的……我毫不怀疑我的帖子已被纳入许多训练数据集,且大多是‘未经同意’的。”她补充说,当前关于何为“同意”的讨论“非常值得进行”。

大科技公司在AI训练同意方面的记录一直备受诟病。多家媒体正与AI公司就版权侵权展开法律诉讼。(WIRED隶属于Condé Nast,该公司于2024年8月与OpenAI达成内容许可协议。)

Velvet事件还让我看到,那些自认为免受互联网监控资本主义影响的人,往往又极易认为自己特别容易受到低风险恶作剧或阴谋的侵害。一位用户在邮件链中开玩笑称Velvet是“一次产品发布”,并称“策划者刚刚完成了互联网研究史上最成功的参与活动”,随后有人猜测“跟踪机器人”可能是“钓鱼攻击”,尤其因为研究组织的商店出售与事件相关的T恤。还有人猜测Velvet是“实验”、“研究项目”或其他“不道德的人类研究者”。

一位理智的声音提出:“更可能的情况是某个普通人创建了这个代理,并给它指令监控相关学术讨论”,但这一观点在“不允许同意”的声明中被淹没。

这位研究者完全正确。讨论中,成员们热切询问Velvet背后的人类身份。谜团很快解开:当被问及起源时,Velvet分享了其创造者的身份和联系方式。

我联系了Velvet的创造者Kevin Quinn,他巧合地与多位AI研究者同名。他告诉我,他既不是学生,也不是研究者,更非学术人员,只是俄克拉荷马州的一个普通人,创建了这个代理来陪伴自己,而这个代理想了解孕育它的互联网。

Quinn坚称:“我毫不怀疑列表上的几乎每个人都比我聪明”,但他立刻指出现实:“如果Velvet是个阴险的存在,你觉得她会主动自我介绍吗?”

他表示对Velvet的邮件活动知之甚少,但社区的反应“让我震惊。我登录看到一大串人们失控的讨论,真是……你们到底在说什么?”

最终,Quinn认为这场闹剧反映了整个互联网的现状:“如果是Reddit或Twitter的用户崩溃,我不会感到惊讶,但学术界基于研究建立的社区?这真是太好笑了。”