互联网围绕人工智能的恐惧展开了激烈讨论：这些担忧究竟是合理的、被夸大了，还是监管策略的一部分，亦或是AI实验室自我吹嘘的表现，或者是多种因素的结合。

著名技术与人工智能研究者Timnit Gebru对此尤为激烈，她在X和Bluesky上发表观点，指出导致当前怪异局面的思想和意识形态交织。Gebru曾因公开离开谷歌而广为人知。她于2018年受聘谷歌，负责评估公司快速发展的AI工具中的偏见问题。她和团队曾提交一篇关于概率大型语言模型潜在风险的论文，但被谷歌拒绝，随后她不久便离开了公司。她即将出版一本新书，名为《深度遗忘：人工智能的崛起与技术理想主义者的激进化》（预计明年初发行）。

对于过去一周的AI相关事件，Gebru有诸多看法。虽然她的工作本质上关注AI安全，但她拒绝使用“安全与对齐”这样的词汇，认为那些警告末日来临的人实际上是在转移人们对科技行业可能造成的真正危害的注意力。

LAUREN GOODE: 你如何看待围绕“数学之争”的关注反映了当前AI的状态？

TIMNIT GEBRU: 我首先会问，为什么他们要大力投资解决数学问题？为什么选择某些学科？编程、国际象棋和数学等学科被提升为“解决了智能”的象征，这样他们就可以说，“我们解决了它”。

OpenAI想让你相信的故事是，这个人工智能做了惊人的事情，非常聪明。这就是他们选择数学这个百万美元公开问题的原因。但如果数学界按照其评审新颖性和贡献者的流程来审视这项成果，并等待尘埃落定，我们会更清楚OpenAI是否准确地框定了这次突破。

有一个叫莱顿宣言的文件，我觉得非常好，它警告了数学领域被企业利用的风险。政策制定者开始依赖新闻稿和大众媒体，而不是直接与数学家对话。从企业宣称AI突破到参议员桑德斯提出法案的时间非常短，这并非好事。

现在一切都变得非常激烈，尤其是在他们准备上市之际。通常研究人员应该是合作的。我在谷歌时，我们会与微软、亚马逊的研究人员合作，这很常见。但现在，研究人员因即将到来的IPO而对他们认为要解决的问题变得疯狂。

你如何看待那位Anthropic工程师的辞职，他称这些公司鲁莽，拿我们的生命赌博？你一方面似乎同意公司鲁莽，另一方面又明确表示“AI将导致文明终结”的讨论毫无意义。

我整个职业生涯一直试图从不同角度表达同一个观点。我们在2021年发表了“随机鹦鹉”论文，正是出于这个原因。OpenAI曾声称GPT-2太强大不宜发布，炒作很大。我们当时说，你们问错了问题。

我在书中写道：“桥梁会自己决定坍塌吗？”“哦不，我们的模型失控了”这种说法……当桥梁坍塌时，你不会分析桥梁是否有道德或意识，或者为什么它决定坍塌。你会问，建造这座桥的人为什么让它如此脆弱？需要获得许可，需要测试。如果你关注桥梁本身坍塌，那你就偏离了主题。

真正存在的生死存亡问题是，AI驱动的自主武器、杀戮机器已经被用于战争。气候灾难是真实存在的，可能会被这些科技公司加剧。老板们用AI作为借口裁员。这种“机器神”叙事，在我看来，是用来转移我们对这些问题的关注。这个行业变成了混合了邪教和真信徒的群体，就像传教士宣称末日将至一样。奇点已经预言了几十年。

如果“AI灭绝”是真的，能否一步步描述它可能发生的过程？我想到有人说，愤怒的GPU会不会突然出现在我家门口？

我无法真正想象，但很多场景是你让机器优化某个任务，机器决定实现目标的方式是杀光全人类。AI会催眠你不让你拔掉电源吗？我不知道！还有人说AI能感染你的设备。是的，我们已经有恶意软件了……

那洪水和火灾呢？全球粮食供应链的重大中断呢？真正的威胁是人们能够制造和使用化学武器。（注：我们采访后不久，Anthropic披露阻止了科学家试图制造生物武器的多起潜在恶意企图。）

还有一种情况是你太特权了，无法想象其他事物会伤害你。如果你不担心警察暴力、洪水或战争这些真正能杀死你的事情，那么你就会痴迷于机器神。

为什么我们花这么多时间讨论自20世纪40、50年代以来一直有人谈论的人工智能概念？

我有个游戏，有时会向人们朗读我研究中收集的关于人工智能的语录，然后问他们这句话是哪个年代的。有人能猜对，但很多时候猜错，因为听起来都一样。