本周,美国总统唐纳德·特朗普召集了多位人工智能领域的顶尖人物,宣布美国政府将不再使用“人工智能”这一称呼,而改称为“超级智能”。
在TechCrunch的最新一期《Equity》播客中,Kirsten Korosec、Sean O’Kane和我讨论了此次会议的动机及其对人工智能行业可能产生的影响。我们普遍对高管们签署的“前沿责任联合承诺”持怀疑态度,尤其是正如Sean指出的,这份协议从法律角度来看“完全没有约束力”。(特朗普则表示,他认为这份协议“在道德上具有约束力”。)
Kirsten认为,这次会议的真正意义可能在于“对人工智能的重新品牌塑造”。(这一努力在周末随着特朗普宣布成立新的“超级智能部队”而继续推进。)她总结的主要信息是:“人工智能会威胁我们、令人恐惧,会取代工作岗位,但超级智能则不会。”
以下是我们对话的节选,经过编辑以便更清晰简洁。
Anthony Ha: 根据美国总统的命令,现在官方不再称之为人工智能,而是超级智能。我们上周就讨论过这个话题,因为特朗普早有暗示——其实他并不暗示,而是直接说了很久。现在这已成为行政命令。如果你是美国官方代表,应该称其为超级智能,而非人工智能。
这也是此次关于人工智能安全的更广泛声明的一部分,我觉得这份协议本身以及它的出现都很有趣。因为就在两周前,甚至一周前,特朗普还在说:“我们不需要这些限制,我们要在人工智能领域领先,不能有任何约束,不需要监管,任何说人工智能有危险的人基本上都是中国或民主党的间谍。”然而,本周早些时候,所有这些人工智能CEO却齐聚一堂,与他签署了这份协议。
Kirsten Korosec: 在此之前,不仅有对监管的反对,我们还可以讨论这份行政命令是否真的起作用——我认为没有,更多是表面功夫——但重要的是,就在几天前,Anthropic公司在特朗普背后的局势非常紧张。
情况在Anthropic CEO达里奥·阿莫代被邀请参加晚上10点的晚宴后发生了变化。几天后,举行了这场午宴,几乎所有主要科技公司的重量级人物都出席了。马克·扎克伯格、杰夫·贝索斯、埃隆·马斯克、达里奥都在场。
我想问问你们有没有看过随后的新闻发布会?那场发布会引发了很多网络迷因,因为聚集这么多科技CEO时出现了很多有趣和搞笑的场面。

但我更关心的是:这一切意味着什么?它真的有意义吗?
Sean O’Kane: 你有多少时间?首先,特朗普和达里奥确实共进了晚餐。如果你读过特朗普最近接受《时代》杂志采访的内容,你会发现他对晚宴的知情程度也很模糊,这种现实很奇怪,但这就是我们所处的环境。
我还想说的是,尽管有人努力修复政府与Anthropic的关系,但国防部仍然坚决认为Anthropic存在问题,认为其“觉醒”倾向严重,是国家安全风险。埃米尔·迈克尔几乎每天都在社交媒体上批评Anthropic。尽管达里奥出席了这次活动,双方之间仍有距离。
至于这份协议,实话说,他们在协议上拼写错误了“United States”(美国),这份协议完全没有约束力,完全是自愿性质。我最喜欢的是特朗普称其为“道德约束”,这是一种我从未听过的抽象说法。
Anthony: 关于Anthropic与特朗普政府的关系,之前有很多报道,尤其是在与国防部的冲突期间,白宫不同部门对Anthropic的态度也不一致。财政部长似乎非常支持,而国防部则不满Anthropic对其技术使用设定的条件。
从这个角度看,情况似乎没有实质改变。白宫内部有人希望利用Anthropic的技术,参与决策,另一些人则极力反对。
至于这份协议,意义不大。真正重要的是他们觉得这件事值得做。协议中拼写错误“United States”显示出他们匆忙促成了这件事。即便如此,这种象征性的举动本身就很有意义,尽管协议本身不会带来重大变化。
Kirsten: 我认为这次活动的一个重要点是对人工智能的重新品牌塑造。信息是:“人工智能会杀死我们,令人恐惧,会夺走工作,但超级智能不会。”这不是我个人的看法,而是他们传达的讯息。


