教皇利奥十四世在其首份通谕《Magnifica humanitas》中引用了众多知名圣人和历代教宗,这并不令人意外。然而,最引人注目的名字却是高幻想文学的代表人物——《指环王》作者、天主教徒J.R.R.托尔金。
利奥的通谕聚焦于“在人工智能时代保护人的尊严”,这是他担任天主教会领袖首年的重要主题。他继承了前任教皇方济各的观点,警示“技术官僚范式的日益主导”,这种范式可能将自然界视为剥削对象,将人类沦为追求效率的系统中的齿轮。他将人工智能的兴起比作18世纪中叶至20世纪初的工业革命,并提及其 namesake 教皇利奥十三世在1891年通谕中强调工人权利与尊严的重要性,当时正值技术变革和资本主义帝国扩张的时代。
这篇长文进一步明确了利奥对人工智能的怀疑态度。尤其值得注意的是,他提到托尔金,这在某种程度上回应了像彼得·蒂尔和埃隆·马斯克等右翼亿万富翁对中土世界神话的曲解,这些解读长期被其他《指环王》粉丝嘲笑。有人甚至觉得教皇是在“调侃”。(梵蒂冈尚未对此发表评论。)
显然,教皇对科技寡头竞相开发超越人类能力的通用人工智能的动机表示担忧。他们真心希望利用这项技术治愈疾病、应对气候变化,还是仅仅为了追求无限利润和文化统治?当教皇谈及我们个人应对这些黑暗力量的责任时,他借用了托尔金著名巫师甘道夫的话:“我们无法掌控世界所有潮流,但应尽己所能,根除我们所知领域的邪恶,为后人留下洁净的土地。”
这一教诲与马斯克和蒂尔对托尔金作品的解读截然不同。
蒂尔将其数据分析公司命名为Palantir,取自故事中叛徒巫师萨鲁曼用来监视的水晶球;他的风险投资公司Founders Fund被他称为“the precious”,即托尔金笔下扭曲贪婪的角色咕噜对至尊魔戒的称呼。几乎所有接触过托尔金作品的人都能明白,他是在揭示权力的腐蚀性——小说中,统治的诱惑最终毁灭了所有屈服者——但蒂尔似乎乐于拥抱这种极权控制和无所不知的可能性。

马斯克则曾暗示托尔金的史诗是反移民、筑墙的寓言:“托尔金写霍比特人时,指的是英格兰乡村的温和民众,他们不了解远方的恐怖。他们之所以能安宁生活,是因为刚铎的强硬之人保护着他们。”他在社交平台上发表此言,试图为英国极右伊斯兰恐惧症煽动者汤米·罗宾逊辩护,但这明显与《指环王》的真实内容不符。
事实上,托尔金对掠夺军队的描写灵感来自于军事化和工业化的恐怖——这是他那一代英国人深有体会的经历。托尔金在第一次世界大战中目睹的机械化战争恐怖,被广泛认为是萨鲁曼发动毁灭古林、奴役兽人的灵感来源。
从某种意义上说,这一寓言更贴合教皇利奥对科技精英的批判:他们播种分裂与不平等,将资源用于战争,破坏环境,不惜一切代价攫取权力。(蒂尔和马斯克均未回应关于通谕的置评请求。)
至少蒂尔在这方面表现出一定的自知之明,他偏爱的托尔金典故和Palantir与美国移民与海关执法局(ICE)的合作即是明证。马斯克虽自视为故事中的英雄,却主导了美国国际开发署(USAID)的裁撤,导致全球数十万可避免的死亡,未来可能更多。而两人仍支持特朗普政府,该政府利用人工智能进行种族主义宣传和伊朗轰炸计划,并借用《指环王》为ICE的行动造势。
在此背景下,教皇引用甘道夫的话语显得尤为用心。
这位深受喜爱的角色在谴责一个唯效率至上、权力与财富集中于少数人手中的社会的著作中被引用,无论是否有意,都是对相关人士的直接警示。但以他们的理解能力,谁又能保证这话能传达到呢?


