周一，马克·扎克伯格发布了一篇6500字的宣言，主要谈论Meta AI正在构建的“个人超级智能”系统的可能性。文章的观点并非全新，类似版本两周前曾发表于《华尔街日报》，扎克伯格也曾在Meta的财报电话会议中提及过。但这篇文章可能是他迄今为止分享的最详尽版本。
有人将这篇文章称为反末日论的作品，但其实不然。它更像是扎克伯格个人对AI将如何改变社会充满期待的描述。尽管他试图描绘一个由丰富超级智能带来的美好未来，但他也不断提醒我们AI可能出错的各种方式。
我本人也对AI感到兴奋——这也是我持续写作的原因——但公众中许多人却觉得AI令人不安甚至反感。因此，有必要明确这里到底发生了什么，以及为什么扎克伯格的这类文章并没有帮到整个行业。
社交媒体在科技行业仍是敏感话题，我们无法在此详尽讨论公众对Facebook的各种批评。可以肯定的是，Facebook作为产品和扎克伯格作为个人在美国公众中都不受欢迎。最近一项调查显示，64%的美国人认为社交媒体对民主有害，类似比例的人支持加强监管，这一观点在各党派间均有共识。就在上周末，一家法院因其对儿童有害，判处Meta支付5.67亿美元罚款。整体氛围相当负面。
我提及这些并非暗示扎克伯格应羞愧退隐，但社交媒体带来的负面影响正是公众对AI社会影响感到焦虑的核心原因之一。无论是否公平，公众普遍不信任科技高管能确保新技术对社会产生积极影响。扎克伯格的这篇文章反复展示了信任为何会丧失。
文章很大一部分内容围绕对“智能”的模糊泛泛之谈，类似于扎克伯格和多尔西过去对言论自由的模糊表述。例如，他写道：
随着每个人获得更强大的工具，每个人将更有能力塑造未来，而非相反……拥有竞争利益的个人和机构自然会相互制衡，推动积极结果。构建积极AI未来的最佳且最现实路径是将超级智能带给每个人。
这话听起来不错，但我能想到不少利益冲突导致糟糕结果的例子。更奇怪的是，这被当作真诚的哲学结论，而非Meta即将推向市场的名为“个人智能”的具体产品。如果你本就不信任扎克伯格，可能会怀疑他写这些是为了自我说服，认为不会发生坏事。
当扎克伯格举出具体例子时，这种感觉更强烈，许多例子与AI工具的实际使用情况严重脱节。比如他对AI在教育中的看法：
每个人都会拥有一位拥有博士学位、耐心无限的个性化导师和教练，帮助你学习任何想学的东西。学生将在需要帮助的领域获得额外支持，这些支持目前只对有经济条件的家庭开放。成年人将拥有超级智能学习助手，精准教你新职业技能、新语言、新爱好或任何感兴趣的内容。
实际上，扎克伯格描述的产品已经存在：类似ChatGPT、Claude和Gemini的消费者聊天机器人。这些工具确实有助于学习某些主题，但在教育中的主要用途却是逃避学习，因为你的个性化导师可以帮你做作业、写论文——而且由于缺乏有效的水印系统，老师无法确定哪些论文是AI生成的。
这虽然是AI带来的较低风险问题，但确实正在发生。技术设计初衷是做好事，却可能带来意想不到的负面后果。世界上最有权势的人之一拒绝承认这一点，难怪公众会感到不安。
扎克伯格还举了AI如何改善法律系统的例子：
设想只有一个人拥有超级智能律师，他在法庭上将拥有不公平优势，即使他在事实和法律上是错误的，这将导致社会恶化。但如果每个人都有超级智能律师，司法将比现在更加公平高效，因为目前诉讼中技能和资源往往不平衡。
这例子同样值得商榷。虽然法律AI可能带来更公正的社会，但也可能增加官僚体系的复杂性，或者引发大量无理诉讼，像法律领域的垃圾邮件一样堵塞系统。对这些问题感到担忧是合理的，而扎克伯格却表现得毫不担心，这反而让我更忧虑。
此外，扎克伯格对Meta现有商业模式的描述也显得抽象。例如他谈及Meta对免费增值模式的承诺：
每个人都将免费或以可负担的价格使用这些工具……我们将提供免费版本，供数十亿人使用。对于想支付更多计算资源的人，将有动态竞价机制，确保每个人都以最低价格获得所用的智能和计算资源，同时保证容量用于人们共同认为最有价值的用途。这将确保超级智能的利益广泛分配。
总体上，我同意他的观点。扎克伯格说得对，获取途径是个问题，免费增值模式确实比要求所有人预付计算费用更具包容性。现有的计算资源现货市场也支持他的设想。但每个消费者AI产品都避免让用户直接面对计算资源的现货价格，因为动态加价会极大影响用户体验，尤其是当用户依赖该工具工作时。
我只能假设扎克伯格知道这些，并不打算通过动态竞价来定价，但读完这篇文章后，我对此反而更不确定了。
其实，有更好的沟通方式。尽管有缺点，Sam Altman和Dario Amodei在直接与公众交流时表现不错。他们做扎克伯格不愿做的事：承认AI的危险，强调自身的防范措施，努力赢得公众信任。
但这种沟通也有限。尤其是最近，安全防护措施屡屡失效，AI固有的风险暴露无遗。若没有建立信任，整个行业可能难以承受未来的失败。
