互联网围绕人工智能的恐惧展开了激烈讨论：这些担忧是真实合理，还是被夸大其词，抑或是监管捕获策略的一部分，亦或是AI实验室自我吹嘘的表现，或者是上述因素的某种组合。

著名技术与人工智能研究者Timnit Gebru对此尤为激烈，她在X和Bluesky上发表观点，认为当前的怪异局面源于交织的理念和意识形态。Gebru此前因与谷歌的公开分歧而闻名。她于2018年受聘谷歌，负责评估公司快速发展的AI工具中的偏见问题。她和团队曾提交一篇关于概率大型语言模型潜在风险的论文，但遭谷歌拒绝。之后她不久便离开了公司。她即将出版一本新书《深度去学习：人工智能的崛起与技术理想主义者的激进化》，预计明年初发行。

对于近期AI相关事件，Gebru有诸多看法。尽管她的工作本质上关注AI安全，但她拒绝使用“安全与对齐”这类词汇，并认为那些警告末日来临的人实际上是在转移公众对科技行业可能造成的真正危害的注意力。

LAUREN GOODE：你怎么看当前围绕“数学之争”的关注反映了AI的现状？

TIMNIT GEBRU：首先我想问，为什么他们要大力投资解决数学问题？为什么选择特定学科？编程、国际象棋和数学这些领域被过度拔高，仿佛解决了它们就等于解决了智能问题，这样他们才能宣称“我们解决了智能”。

OpenAI想让你相信的是，这个人工智能做出了惊人的成就，非常聪明。这就是他们选择数学这个百万美元公开问题的原因。但如果整个过程经过数学界对成果的严格审查，等待尘埃落定，我们会更清楚OpenAI是否准确地描述了这次突破。

有一个叫莱顿宣言的文件，我觉得非常有价值，它警示了数学领域被企业利用的风险。政策制定者开始依赖新闻稿和大众媒体，而不是直接与数学家交流。从企业声称AI突破到参议员桑德斯提出法案的时间非常短，这并非好事。

目前一切都非常激烈，尤其是在公司准备上市之际。通常研究者应该是合作的。我在谷歌时，我们与微软、亚马逊的研究人员合作频繁。但现在，研究人员因即将上市而对自己解决的问题焦虑不安。

你如何看待那位Anthropic工程师的辞职，他说公司鲁莽，拿我们的生命赌博？一方面你似乎同意公司行为鲁莽，另一方面你又明确表示“AI将导致文明终结”的讨论毫无意义。

我整个职业生涯都在从不同角度表达同一个观点。我们2021年发表的“随机鹦鹉”论文就是为此。OpenAI曾声称GPT-2过于强大，不能发布，炒作很大。我们当时说，你们问错了问题。

我在书中写道，“桥梁会自己决定坍塌吗？”关于“模型失控”的恐慌……当桥梁坍塌时，你不会去分析桥梁是否有意识或伦理，或者为什么决定坍塌。你会问，谁建造了这么脆弱的桥？需要获得许可，必须经过测试。如果你把注意力放在桥本身坍塌上，你就偏离了重点。

真正的生存威胁是AI驱动的自主武器，这些杀戮机器已被用于战争。气候灾难是真实存在的，且可能因科技公司所造之物而加剧。老板们用AI作为借口裁员。这种机器神话，在我看来，是用来转移我们对这些问题关注的。这个行业变成了一个混合体，既有狂热信徒，也有真正的信仰者，就像传教士宣称末日将至一样。奇点理论已经被谈论了几十年。

如果“AI灭绝”真的会发生，你能一步步描述它的过程吗？我看到有人说，难道愤怒的GPU会突然出现在我家门口？

我无法想象这种场景。很多设想是，你让机器优化某个目标，机器决定通过杀光所有人来实现目标。AI会催眠你不拔掉电源吗？我不知道！有人说AI能感染你的设备。是的，我们已经有恶意软件了。

那洪水和火灾呢？全球粮食供应链的重大中断呢？真正的威胁是人们可能制造和使用化学武器。[注：我们采访后不久，Anthropic披露阻止了科学家试图制造生物武器的多起恶意尝试。]

还有一种情况是，你太特权了，无法想象其他事物会伤害你。如果你不担心警察暴力、洪水或战争这些真正能杀死你的事情，你就会痴迷于机器神话。

为什么我们花这么多时间讨论自20世纪40、50年代以来就存在的人工智能概念？我有个游戏，会读出我研究中收集的关于人工智能的引言，问人们这是哪个年代的说法。有人能猜对，但很多时候猜错，因为听起来都一样。