我们什么时候才会认真对待那些对人工智能持悲观态度的人？

这是埃隆·马斯克试图关闭OpenAI盈利性AI业务背后的一个重要潜台词。他的律师团队认为，OpenAI最初是作为一个专注于AI安全的慈善机构成立的，但后来为了追逐利润偏离了初衷。为此，他们引用了该组织创始人早期的邮件和声明，强调需要一个以公共利益为导向的力量来对抗谷歌DeepMind。

今天，法庭传唤了唯一一位直接就AI技术发表证词的专家证人：加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔，他在人工智能领域研究数十年。拉塞尔的任务是介绍AI的背景，并证明这项技术足够危险，值得我们担忧。

拉塞尔曾在2023年3月签署了一封公开信，呼吁暂停六个月的AI研究。值得注意的是，马斯克也签署了这封信，尽管他当时正启动自己的盈利性AI实验室xAI。

拉塞尔向陪审团和法官伊冯娜·冈萨雷斯·罗杰斯表示，AI发展带来了多种风险，包括网络安全威胁、目标不一致问题以及开发通用人工智能（AGI）所带来的赢家通吃的竞争本质。他最终指出，追求AGI与保障安全之间存在紧张关系。

由于OpenAI律师的反对，法官限制了拉塞尔的证词，他关于不受限制AI存在的生存威胁的更深层担忧未能在公开庭审中充分展开。但拉塞尔长期批评全球前沿实验室之间为率先实现AGI而引发的军备竞赛动态，并呼吁政府加强对该领域的监管。

OpenAI的律师在交叉询问中强调，拉塞尔并未直接评估该组织的公司结构或具体安全政策。

然而，记者、法官和陪审团都将权衡企业贪婪与AI安全担忧之间的关系。几乎所有OpenAI的创始人都曾强烈警告AI风险，同时强调其益处，努力尽快推动AI发展，并策划由他们掌控的盈利性AI企业。

从外部看，显而易见的是，OpenAI成立后逐渐意识到，若要成功，必须增加计算资源投入，而这只能通过盈利性投资者获得。创始团队对AGI掌握在单一组织手中的担忧，促使他们寻求资本，最终导致团队分裂，形成了我们今天所见的军备竞赛局面，也引发了这场诉讼。

这一动态也在国家层面上显现：参议员伯尼·桑德斯推动立法，暂停数据中心建设，这与埃隆·马斯克、山姆·奥特曼、杰弗里·辛顿等人表达的AI担忧相呼应。数据创新中心贸易组织的霍丹·奥马尔反对桑德斯只引用恐惧而忽视希望，称“公众不应无条件否定科技亿万富翁的话，除非这些话被用来填补不稳固论点的空白。”

现在，案件双方都请求法庭对奥特曼和马斯克的论点采取选择性采纳的态度：认真对待有利于自己法律论证的部分，忽视无关紧要的内容。

（更正：本文已更新，纠正了加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔的姓名。）