一个价值数十亿美元的新兴产业正专注于向企业出售和购买工作文件及电子邮件,帮助它们获取新的数据来源以提升人工智能模型的表现,这一市场规模还在不断扩大。现有的数据隐私法律多聚焦于保护消费者,鲜少考虑创造这些信息的员工权益。当医生的笔记、员工合同和Slack上的闲聊都被输入机器时,会发生什么?

本周,谷歌与代表一群特殊劳动力——空乘人员的工会达成了一项协议,或许能为如何可靠区分员工产生的数据与其个人信息提供一个更长远的解决方案。该协议仍需法官下周批准。

这项开创性的协议是Spirit航空清算过程的一部分。今年早些时候,该航空公司突然停止运营。8月,Spirit航空代表在一份法律文件中表示,将以1000万美元的价格向谷歌出售数十年的数据;谷歌则承诺不会获得个人信息。但拥有5.5万名成员的空乘人员协会认为,谷歌提出的保护措施不足以防止严重的隐私侵犯,因为出售的数据包含了包括19.9亿封电子邮件、6.64亿条Microsoft Teams消息以及员工出行和培训信息,时间跨度自1986年以来。

修订后的协议要求Spirit聘请第三方数据去标识公司Tonic AI,剔除可能关联到个人消费者或员工的信息。Tonic还需确保去标识后的数据无法重新关联到具体个人。谷歌承诺将以这种新的去标识形式保存数据。

许多敏感记录将被排除在出售范围之外,包括员工医疗记录、员工调查及劳资关系相关文件,以及行业范围内的安全管理系统信息。11月初,代表航空公司的贸易组织也对出售提出意见,认为包含这些信息可能会让员工不愿通过自愿项目报告安全问题,而这些项目被广泛认为是美国航空业保持高安全记录的关键。

协议还包含一项退出条款:如果数据清理过程导致资产减少超过8%,谷歌可选择撤销购买。谷歌未回应置评请求。

空乘人员协会主席Sara Nelson告诉WIRED,她和其他人一样惊讶空乘人员会成为AI相关劳工权益问题的前沿,这类问题通常聚焦于那些自愿或非自愿地为机器替代品提供训练的员工。

“替代一个空乘人员非常困难——你需要一个高性能机器人,而这似乎还很遥远,”她说。“这表明,即使是你认为最不受AI影响的工作,也存在这个问题。这是所有人的问题。”

她表示,工会将立即要求其他航空公司在劳工协议中加入保护员工数据的条款。“如果你不愿意为员工达到这些标准,我们将让你蒙羞,”她说。空乘人员协会已开始与州级政治家会面,推动将员工数据保护写入法律。

加州大学欧文分校法学院研究法律与技术的教授Ari Ezra Waldman称这项拟议和解对Spirit航空员工来说是“相当不错的结果”。“从今以后,工会将知道如何在未来数据资产出售时谈判保护隐私权,”他在给WIRED的邮件中写道。他还指出另一种可能更简单的选择:全面禁止数据出售。“隐私保护比以往任何时候都更为必要,”他说。

科技领袖们认为,员工理解他们的信息将用于训练AI模型,最终会让生活更美好、更轻松。“你必须看到AI可能带来的好处和丰裕,”一位高管本月对WIRED表示。

Nelson说,美国员工并不买账AI的美好前景,他们是越来越警惕科技的广大选民的一部分。她称AI带来的丰裕是“董事会里穿着连帽衫、坐在豆袋椅上的人的幻想世界。”