她还有一个法律上的知名身份:Bartz是针对Anthropic的一起集体诉讼的主要原告,该诉讼指控该公司从盗版网站下载了数百万本受版权保护的书籍,用作其模型的训练数据。Anthropic去年同意支付15亿美元,创下美国历史上最大版权和解金额。

然而,当Bartz和许多其他作家警惕他们作品被掠夺时,另一种AI威胁正在酝酿。作者们如果被指控自己依赖人工智能写作,会发生什么?

今年三月,出版业经历了这一考验:一部名为《害羞女孩》的恐怖小说被社交媒体广泛猜测为主要由AI生成,随后《纽约时报》报道了相关指控。结果,Hachette图书集团取消了该书在美国的出版计划,并停止了已在英国发行的版本。根据AI检测工具Pangram的分析,约78%的文本被判定为AI生成。虽然Pangram并非绝对准确,但这一比例引发了广泛关注。

《害羞女孩》的作者Mia Ballard否认使用AI写作,称是编辑对她之前自出版版本进行了AI辅助的修改。她还表示正在采取法律行动。自那起事件后,又有几位小说作者因AI嫌疑遭遇质疑:一位刚获短篇小说奖,另一位犯罪小说被出版社竞价数百万美元。两人均否认相关指控。

Bartz指出,一旦指控出现,伤害已成定局。她说,当《害羞女孩》事件爆发时,“我立刻感觉这可能引发一场猎巫行动。”她解释说,AI在出版界的不可避免出现,“会导致任何人都能指控任何人使用AI”,而目前作者几乎没有有效手段自证清白。“没有统一标准,”Bartz说,证明人类作者身份仍是难题。

一批新软件工具的开发者希望改变这一现状。Workings、Blindproof、Wintertext、Human Ink和ObraVera等平台承诺能追踪并记录作者的写作过程,有的通过加密和指纹技术记录作品或打字节奏,生成作者身份的证据(无论是纯人类创作还是AI辅助)。这些工具不仅为作者提供在被质疑时的“纸质证据”,也能在文本被抓取用于AI训练且缺乏归属信息时,证明作品来源。

作者协会(Authors Guild)CEO Mary Rasenberger表示,协会无法推荐某一工具,但希望作家知道这些工具的存在,作为一种安全保障。(据协会政策与倡导主管Umair Kazi透露,许多公司曾向作者协会推销其服务。)

同时,Rasenberger告诉WIRED,要求作者必须使用这些工具“令人感到侮辱”和“负担”,她认为不应强制作者保留这些“收据”。

“如果你卖的是你的文字、声音、想象力和创造力,使用AI就没有意义,”她说。她指出,作者对自己作品的自豪感意味着出版界中AI生成的粗制滥造远没有外界想象的那么普遍。“我和文学非虚构及小说编辑谈过,他们说‘我从没见过AI生成的投稿,如果有我会知道的。’”

Rasenberger担忧,作者正面临一种不信任氛围——她呼吁“避免相互指责,因为这不利于健康的文学社区”,同时对AI检测工具的过度信任也令人担忧,这些工具容易被欺骗且曾出现误判。尽管Pangram声称在创意写作中误判率仅0.01%,但作者协会听闻许多作者将自己的人类创作文本输入Pangram后,结果却被判定为AI生成。她补充说,有多种因素可能导致AI检测器误判。

同样,写作过程追踪应用也非万无一失;AI技术的不断进步意味着双方都在不断发现漏洞并修补。

Pangram联合创始人兼CEO Max Spero说:“我们提供的产品可以追踪Google文档中的写作过程,许多用户觉得有帮助。但‘纸质证据’工具并非万能。例如,有人可以手动输入AI生成的文本,或使用自动打字工具。”他指出,写作本身的复杂性也带来问题。“普通作者不会一气呵成写完一本书,他们会用多个文件,反复修改,甚至在路上用语音笔记。写作过程工具无法捕捉所有这些。”

这些工具更侧重于版权保护,而非确认人类或AI作者身份。ObraVera技术创始人Brady Ridgway表示,他们的平台能通过加密技术“指纹”写作和语音录音,追踪存储在数据库中注册用户的作品。通过时间戳和加密哈希,如果内容“后来出现在不该出现的地方,或者被他人声称为己有,我们可以查询数据库,证明这些文字是在某时间由某人创作的。”

Ridgway说,这能证明作品来源和所有权,但是否使用AI仍由注册用户自行声明。他提到今年五月一位作家因涉嫌用AI作品赢得英联邦短篇小说奖引发争议。“大家都同意是他提交的作品,”他说,“软件只能显示某人在某天声明作品为纯人类创作或非AI辅助,无法验证声明真伪。”

有人认为,试图建立人类作者身份认证体系既不现实,也可能很快失去意义。作家兼出版业专家Jane Friedman在其行业通讯《The Bottom Line》中指出,随着Pangram等检测工具的改进,AI丑闻时代可能很短暂。她还写道,作者们已经看到冒用AI生成作品的后果。

Friedman告诉WIRED,代理人和出版社不太可能采用任何“增加成本或时间”的人类作者身份验证方法,尤其难以达成统一标准。她预测,“这就像赶猫一样难,因为出版业对新技术的接受很慢,尤其是外部开发的新技术。”

即使不同出版社在需求和资源上差异巨大,能就某种认证达成共识,仍面临挑战。Friedman提到将此类标准整合进现有生产流程的后勤难题,更不用说“伪造或篡改”认证的风险。“如果这增加额外成本或时间,根本行不通。”她总结道。虽然作者可能愿意为安心买单,但她认为作者无法信任代理人和出版社会接受任何应用提供的作者身份证明。

在缺乏明确解决方案的情况下,作者只能自求多福。Bartz表示,她对读者因担心被AI欺骗而表现出的极端反应感到震惊。“我听说有人因为陌生人觉得书听起来像AI写的,就在Goodreads上遭遇差评轰炸,其他人也跟着起哄,”她说。“还有读者说‘我不看2022年后出版的书,因为那样我能确定没有生成式AI参与。’这无疑会一举摧毁整个行业。”

巧合的是,Bartz即将于2027年出版的新书《删除你的账户》正面探讨生成式人工智能。书中主角是一位写作受阻的作家,选择了不幸的捷径,导致AI聊天机器人模仿她最爱的惊悚小说,最终她被困在那个故事中,面临死亡威胁。

Bartz怀疑,自己选择讽刺AI是否让她处境尴尬。“我写了很多故意让人感觉像大型语言模型(LLM)写的部分,”她说,“包括我编的对话记录,还有这个虚构AI公司的烦人、AI味十足的营销材料。我不知道——如果这些被判定为AI写的,我该怎么办?”