O'Reilly将人工智能视为一种新的创作媒介,他广泛使用AI,甚至开设了一个关于与AI对话的博客。在我们的对话中,我们发现对于AI在原创内容创作中的角色存在分歧。猜猜谁支持哪一方。

Steven Levy: 你完全支持开源AI,能否阐述你的观点?

Tim O'Reilly: 首先,我们要确保谈论的是同一件事。大多数人提到开源AI时,实际上只是指开放权重模型。但开源的概念远不止于此。90年代,当大家都关注开源许可时,我认为关键是系统架构,它是否支持参与?

为什么这很重要?

大型实验室对未来的判断是错误的。他们自我设定了一个叙述,认为拥有最大、最好的模型就是未来的关键。像Claude这样的大模型优化了特定的用例,但这些用例不一定是用户真正想要的。我希望能加入自己的“独门秘方”。最重要的是模型、框架和应用之间要有清晰的分离,而现在我们还没有做到。他们构建的是一种控制架构,而非自由和参与的架构,因此他们能够追踪用户。

大公司放弃控制权不是违背自身利益吗?

确实违背他们的利益,但这并不意味着他们做出了正确的战略决策。过去,最新最强的模型适用于所有场景,但现在它们在某些方面更好,在另一些方面则不如低级模型。有人说Fable和Sol的写作能力不如低级模型(注:Anthropic和OpenAI对此持不同意见)。所谓前沿AI的突破,实际上让我们离普通人真正需要的东西更远。我们可能在美国赢得前沿AI的竞争,但中国会因为其低级模型在社会中广泛普及而领先。目标是赋予人们自由创新的能力,打破常规。

有人担心开源软件存在安全风险,坏人可能绕过前沿模型的防护措施。

我们看到的所有网络安全事件都来自前沿模型。因此,网络安全和病原体开发的风险更是减缓前沿模型发展的理由,而不是限制开放权重模型的理由。

你认为开源会削弱AI巨头的主导地位吗?

我不预测未来,但世界正朝我期望的方向发展。大前沿模型可能最终像大型机或超级计算机一样,专注于解决极难的问题,而不是广泛普及。有人正在开发像Pi这样的开源智能框架。我们非营利组织AI披露项目正在推动开放记忆联盟的构想。马克·扎克伯格的策略是通过Meta提供最了解你的AI来锁定用户,开源愿景必须拒绝这种做法。开源可以让用户自由切换模型和服务商,并保持所有必要的上下文。

你最近在《经济学人》撰文指出,埃隆·马斯克和其他科技领袖在公司中拥有过大权力,这种权力使他们反资本主义,因为他们的意愿而非市场决定战略。

总体来看,硅谷已经变得反资本主义。他们使用市场语言,但自2010年左右,Uber和Lyft的模式出现,风险投资者花费数十亿美元补贴打车服务,风险投资者选择赢家而非市场,这成为模板。所有资本涌入,扼杀了其他可能的路径。

在AI领域,资金集中于少数公司,但似乎没有公司能完全掌控。

这是一个失败的模式。真正的活力在于开源。就像90年代初,大家都认为PC之争是主战场,结果网络突然崛起,没人注意。我认为真正的AI未来将是由非风险投资资助的创新发酵,就像网络最初并非由风险投资推动一样。

这种颠覆可能来自你自己的公司,基于书籍和写作。

图书业务已经衰退25年。巅峰时我们的图书业务约7000万美元,现在降至3000万美元。随着图书收入减少,我们必须找到补偿知识分享者的方法,因为这是我们的核心业务。现在AI出现,几乎吸收了所有内容。我们能否构建一套工具帮助人们利用这些知识?调用专家知识是一种超级能力,我们必须弄清楚这意味着什么。

编辑这次采访时,你会用AI吗?

我会把长谈话浓缩成短文,但不会用AI来做,介绍部分当然是我自己写。这是我们的政策。

你认为这种传统会消失吗?

我认为会。写作时有AI作为思维伙伴非常强大。

AI会替代你的写作吗?

不会。我用它来头脑风暴和功能性写作。采访一小时后,我会让AI帮我整理成可用内容,因为我没时间写完所有采访。

你担心AI最终会取代人类写作吗?

AI本质上是一种媒介,就像文字、绘画或音乐一样。当我与AI对话或用它设计艺术时,得到的体验与你不同,就像米开朗基罗和梵高用画笔创作出完全不同的作品一样。认为不能用AI写作的想法,就像认为不能用相机拍出好肖像或风景一样荒谬。未来会有人成为用大型语言模型表达思想的大师。过去人们骑马,现在很少了。我们正处于早期阶段。