互联网围绕人工智能的恐惧展开了激烈辩论：这些担忧究竟是合理的、被夸大了，还是监管策略的一部分，亦或是AI实验室自我吹嘘的手段，或者是上述多种因素的结合。

著名技术与人工智能研究者Timnit Gebru对此尤为激烈，她在X和Bluesky上发表了关于导致当前怪异局面的各种思想和意识形态的看法。Gebru此前因与谷歌的公开分歧而闻名。她于2018年受聘谷歌，负责评估公司快速发展的AI工具中的偏见问题。她和团队曾提交一篇关于概率大型语言模型潜在危险的论文，但遭谷歌拒绝。之后她不久便离开了公司。她即将出版一本新书，名为《深度遗忘：人工智能的崛起与科技理想主义者的激进化》（预计明年初出版），讲述她的经历。

对于最近一周的AI相关事件，Gebru有许多看法。虽然她的工作本质上关注AI安全，但她拒绝使用“安全与对齐”这类词汇，认为那些警告末日即将来临的人实际上是在转移人们对科技行业可能造成的真正危害的注意力。

LAUREN GOODE：你如何看待围绕“数学之争”的关注反映了当前AI的状态？

TIMNIT GEBRU：首先我会问，为什么他们要大量投资解决数学问题？为什么选择某些学科？编程、国际象棋和数学这些领域被拔高为“解决了这些问题就等于解决了智能”，这样他们就能说“我们解决了”。

OpenAI想让你听到的故事是，这个人工智能完成了惊人的事情，非常聪明。这就是他们选择数学这个百万美元公开问题的原因。但如果整个过程都经过数学界对声明的重要性和新颖性的严格审查，并且我们都等到尘埃落定，我们会更清楚OpenAI是否准确地描述了这次突破。

有一个叫莱顿宣言的东西，我觉得非常好，它警告了如果数学领域被企业这样利用会发生什么。政策制定者开始依赖新闻稿和大众媒体，而不是直接与数学家对话。从公司声称AI突破到参议员桑德斯提出法案的时间非常短，这并不是好事。

现在一切都非常激烈，尤其是在他们准备上市的阶段。通常研究人员应该是合作的。我在谷歌时，我们会与微软、亚马逊的研究人员合作，这很常见。现在，研究人员都因为即将到来的IPO而对他们认为自己正在解决的问题变得狂热。

你如何看待那位Anthropic工程师的辞职，他说公司鲁莽地拿我们的生命赌博？一方面，你似乎同意公司行为鲁莽；另一方面，你又明确表示“AI将导致文明终结”的讨论毫无意义。

我整个职业生涯一直试图从不同角度表达同一个观点。我们在2021年发表了“随机鹦鹉”论文，就是因为这个原因。OpenAI曾声称GPT-2太强大不宜发布，炒作得很厉害。我们当时说，你们问错了问题。

我在书中写道，“桥梁会自己决定坍塌吗？”“哦不，我们的模型失控了”这种说法……当桥梁坍塌时，你不会分析桥梁是否有道德或意识，或者为什么它决定坍塌。你会问，建造这座桥的人为什么让它这么脆弱？有建筑许可，有测试标准。当你把问题归结到桥梁本身坍塌时，你就偏离了重点。

与此同时，真正存在的生死攸关问题是AI驱动的自主武器，这些杀戮机器实际上已经被用于战争。气候灾难是真实存在的，可能会被这些科技公司制造的产品加剧。老板们用AI作为借口裁员。这个“机器神”叙事，在我看来，是用来转移我们对这些问题关注的。这个行业已经变成了一个混合体，有狂热信徒，就像传教士宣称末日将至一样。奇点已经来了几十年了。

如果“AI灭绝”真的会发生，你能一步步描述它是如何实现的吗？我想到有人发帖问，难道愤怒的GPU会突然出现在我家门口？

我无法真正想象，但很多场景是你让机器优化某个目标，机器决定实现目标的方式是杀光全人类。AI会催眠你不让你拔掉电源吗？我不知道！有人说AI能感染你的机器。是的——我们已经有恶意软件了。

那洪水和火灾呢？全球粮食供应链的重大中断呢？真正的威胁正在逼近，比如人们能够制造和使用化学武器。（注：我们采访后不久，Anthropic透露阻止了科学家试图制造生物武器的多次潜在恶意尝试。）

还有一种情况是你太特权了，无法想象其他事物会伤害你。如果你不担心警察暴力、洪水或战争——这些真正能杀死你的事情——那么你就会痴迷于机器神。

为什么我们花这么多时间谈论自20世纪40、50年代以来人们一直在讨论的人工智能概念？我有个游戏，有时我会向人们朗读我研究中收集的关于人工智能的引言，然后问他们这句话是哪个年代的。有人能猜对，但很多时候猜错，因为听起来都一样。