快速提问：你是否希望人工智能经过充分训练，能够帮助丈夫（或妻子）策划完美的谋杀案？

直觉上，我的答案是否定的。这似乎不是一个特别难回答的问题。

然而，美国社会中存在着多元的观点。Comma AI 创始人兼资深越狱者乔治·霍茨（George Hotz）在周末分享了他的一种看法。

这篇文章是对一系列宏观AI对齐计划的回应，最近的例子是AI Futures Project发布的《AI 2040：计划A》政策文件。该文件设想全球研究人员共同选择放缓AI发展14年，以造福人类。但显然，并非所有读者都认同其前提或结论。

事实上，霍茨反对将AI进展管理为集体利益的这一前提。他认为快速起飞的场景——即AI迅速获得超人能力的假设——并不合理。（我对他许多观点也表示赞同！）在他看来，AI对齐和安全的最佳策略是专注于由用户本地控制、与用户利益紧密对齐的AI模型。

这个观点很有趣，尤其让我想起目前大部分AI是基于集中管理的服务，如Claude和ChatGPT。之所以采用这种架构，部分原因是托管这些大型先进模型成本高昂，而且大多数用户每天使用频率不足以支撑真正的个人化AI。但随着技术发展，这些因素的重要性会降低。OpenClaw的实验性DIY方法令人兴奋，也希望更多AI产品能重新探索这种模式。

不过，霍茨本身就是个挑衅者，他并未止步于此。他将用户对齐的AI比作一把枪——它不会抱怨你用它杀害继母。（我觉得这应该有其他法律限制吧？）他表示，一个真正对齐的AI会帮你从亚马逊Prime订购制毒设备，并教你如何使用，如果你提出这样的请求。（我认为限制因素不会是AI本身。）霍茨甚至说他愿为捍卫这一原则而牺牲生命，尽管很难想象会发生什么事情导致这种局面。

“我们要么生活在一个自由的世界，要么不是，”霍茨写道。如果只能选择这两者，自由的世界听起来确实更好！不过，我仍然持保留态度。

毕竟，生活不仅仅是自由。任何涉及众多人的结构（社会、市场、企业等）都需要权衡利益，将个人需求纳入相互依赖的偏好网络和责任体系中。任何推出大众科技产品的人都应该认真考虑这个整体网络，也就是说，要重视那些尚未被谋杀的配偶和继父母的利益。

霍茨所体验的自由，实际上是由集体努力创造的潜在未来空间；如果我们都开始像小型AI驱动的拿破仑一样行事，这些未来将一夜之间消失。正如网络流行语所说，我们生活在一个社会中。

不过，拥有一个愿意为我对抗企业世界的本地AI听起来确实很酷！我迫不及待想要试用一个评测版本。