据404 Media报道,亚马逊正在大量购买珍稀书籍,切断书脊后进行扫描,用于人工智能训练。404 Media通过在一本珍稀书籍中放置追踪器,追踪到该书最终被送往位于拉斯维加斯的亚马逊设施。

该设施名为VGT3,其标志是一只恐龙爪中抓着一本书。亚马逊向404 Media表示,他们“通过商业渠道购买书籍,以提升客户使用的产品和服务”。

像亚马逊这样的公司需要极其庞大的文本数据来训练大型语言模型(LLM),这些模型已经吸收了网络上的大量内容(而Anthropic公司甚至非法使用了盗版书籍)。珍稀书籍,尤其是绝版或网络上难以获取的书籍,成为了宝贵的新训练数据来源。

这些书籍尤为重要,因为2022年之前出版的内容绝不可能由大型语言模型创作。当LLM训练时若大量吸收AI生成的文本,可能导致“模型崩溃”,即模型输出质量因过多AI生成内容而下降的现象。