教皇利奥十四的首篇通谕并非单纯从技术角度探讨人工智能(AI)问题,而是将其置于天主教社会教义的传统中,直接引用并更新了教皇利奥十三世于1891年5月15日发布的《新事物通谕》(Rerum Novarum),以纪念其135周年。该通谕当年聚焦于19世纪工业革命高峰期的劳动问题。
当时的“新事物”是工厂、劳动和工业资本主义,而今天的新议题则围绕数字平台、算法、数据和自动化系统,这些因素正在重塑权力、经济和社会关系。因此,这篇通谕并非一篇关于创新的技术文献,而是试图从人的尊严和公共利益的角度解读数字化转型。教皇指出,技术本身并非邪恶,它属于人类历史和创造力的一部分。但当前的情形在规模和深度上都不同:“人类从未拥有如此巨大的自我掌控力”,文中描述了技术如何日益渗透决策过程、集体想象和社会生活。
教皇利奥十四的代表罗伯特·弗朗西斯·普雷沃斯特(Robert Francis Prevost)从权力日益集中且愈发不透明却又极具决定性的系统出发,提出了贯穿通谕的核心问题:当决策被转移到算法逻辑中时,人类尊严、真理保护、劳动、社会正义与和平还能剩下什么?
剥除技术的武装
通谕中提出了“剥除技术武装”这一关键表达。这并非试图减缓人工智能的发展或否认其潜在的积极变革影响,而是防止人工智能成为主宰人类存在的权力形式。教皇强调,关键不在于技术本身,而在于其组织和应用。人工智能如今成为全球竞赛的焦点,争夺“最高性能算法”和“最大数据中心”,竞争优势也转化为地缘政治优势。在这种背景下,少数参与者掌控着数字基础设施、数据和计算能力,影响信息、经济甚至民主。
“剥除武装”意味着打破技术权力与治理权的等式。教皇指出:“正如每一次重大技术转折点一样,人工智能主要增强了那些已经拥有经济资源和数据访问权者的权力。”
通谕明确表示,仅仅监管技术是不够的:必须将其从垄断中解放出来,使其透明且可被质疑,即由多元主体共同“居住”。尤其要防止人工智能成为少数人经济、政治或军事统治的工具。这不是道德隐喻,而是呼吁防止竞争逻辑将共享基础设施转变为控制系统。
真理在选择现实的系统中
技术权力集中带来的首要具体影响之一是集体真理的形成方式。通谕深入探讨了虚假信息问题,指出感知的现实或体验越来越多地被决定展示与隐藏内容的系统过滤。
问题不仅是假新闻或各种假内容,而是平台和算法基于最大化注意力和参与度的标准筛选信息。换言之,呈现给公众的内容不一定是真实的,而是最能激发反应的内容。真理并未消失,但变得依赖于不透明的系统,这些系统影响着舆论、认知和集体选择,而其运作方式并不总是清晰。
因此,通谕强调了具体的文化和教育责任:培养能够识别这些机制的人,而非将公共判断的构建完全托付给响应市场或权力逻辑的数字基础设施。
劳动的裂痕
类似的动态也体现在劳动领域,这是通谕中最具体的议题之一。人工智能不仅被描述为自动化力量,更被视为能够重新定义劳动者身份、工作方式及其自主空间的力量。

教皇明确指出,当创新主要由降低成本和提高利润驱动时,技术失业可能引发“社会灾难”。许多工作可能被替代或丧失人文内涵,劳动者沦为重复性或严格受控的角色。
通谕还详细论述了新型控制形式:自动化监控、任务碎片化和自主感丧失。关注点不仅是失业,更是劳动变得不那么人性化、不那么创造性,进而不那么自由。
这正是通谕开篇即引用教会社会教义的原因。正如《新事物通谕》试图解读工业革命对人们生活的影响,《壮丽人性》(Magnifica Humanitas)则试图解读数字革命。在此视角下,劳动不仅是经济生产或绩效优化,更是人表达尊严、责任和社会参与的空间。
因此,若人工智能最终将劳动者简化为可衡量、可控制、可替代的功能,问题不仅是经济或技术层面,而是深刻的社会、政治和人文问题。
战争:自动化的冲突空间
通谕最激进的部分在于技术介入冲突领域。教皇利奥十四质疑“正义战争”理念的整体架构,认为其已难以描述当代现实。这并非否认自卫权,而是因为冲突本质正在改变。
当今战争已被自动化系统渗透,这些系统影响信息、战略和对敌方的认知。算法本身不作战,但它们促成了一种新的距离感,使决策逐渐脱离人体和人类责任。
因此,通谕明确设限:不可将致命或不可逆的决策交由人工系统承担。道德责任不可委托,也不可在自动链条中消解。此处“剥除技术武装”概念重现,强调必须剥夺机器参与生死决策的能力。
一个开放的建设工地
《壮丽人性》的最终意象是一个建设工地。它不是封闭系统或既定模式,而是仍在建设中的过程。在这个“工地”上,技术、经济、信息和冲突交织在一起。不是因为一切相同,而是因为当今一切都连接于同一数字基础设施和权力关系中。
通谕的核心观点是:问题不在于人工智能作为技术对象,而在于它助力构建的世界类型。关键不再是技术能做什么,而是谁控制它、出于何种利益、基于何种人类观念。
本文最初发表于WIRED意大利版,现由意大利语翻译而成。


