据为天主教会提供人工智能咨询的神父保罗·贝南蒂（Paolo Benanti）表示，围绕超级智能的夸大其词掩盖了对如何约束开发该技术公司的公开讨论的必要性。他指出，大型实验室将问题描述得如此复杂，仿佛只有他们能解决，从而将其他所有人排除在对话之外。
贝南蒂告诉WIRED：“伦理不能成为公司董事会的专属事务，必须在公共领域通过辩论来平衡和缓解。我们需要民主的监管。”
在安全警告发布后，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁新AI模型在发布前必须经过第三方强制评估，并对“蒸馏”过程进行某种打击——该过程指的是竞争实验室利用专有模型的输出训练自己的AI。还有人主张全面禁止递归自我改进，即AI利用其高级编码能力帮助开发未来版本。
贝南蒂对限制AI开发方法兴趣不大，他担心这会扼杀创新，更关注建立确保模型不会脱离人类控制的标准。他强调，无论这些标准如何制定，都不应由实验室自行设计。
贝南蒂说：“前沿实验室的叙事是出于自身利益，旨在获得或保持市场地位。当少数公司决定行业运作规则时，这种行为有一个明确的名称：卡特尔。”
他指出，由于经济、政治和个人利益交织，很难判断关于最新及未来AI模型能力的宏大宣言应当被多认真对待。
虽然OpenAI和Anthropic都支持放缓开发的呼吁，但他们也在准备上市，市场争夺涉及数十亿美元。美中之间的敌对关系——两国均在开发最先进的AI模型——也使局势更加复杂。
Anthropic拒绝置评，OpenAI和Google DeepMind未回应置评请求。
贝南蒂还批评AI行业某些角落对超级智能的描述，带有对神明般的崇敬，认为其超出人类理解、几乎无所不能。（OpenAI CEO萨姆·奥特曼曾表示，他希望打造“天空中的魔法智能”。）贝南蒂认为，这种表述可能扭曲公众对技术的讨论。
他说：“我们是在谈论某物，还是某人？这才是关键区别。这不是信仰问题，而是数学问题。我们不是在创造下一个神性，我们只是在自欺欺人，认为这里有超越统计计算的东西。”
贝南蒂认为，AI的出现提出了人类与机器的界限问题，以及如何保护未来世代免受技术负面影响，这为宗教在公共辩论中创造了“新的角色”。“面对时代挑战是教会使命的一部分。”
虽然贝南蒂是神职人员，但他并不正式代表天主教会的最高管理机构圣座，而是以哲学、神学和技术学者身份为教会提供咨询。他告诉WIRED，他利用AI帮助为大学生制作教学工具和材料，但未透露教皇利奥十四世是否以及如何使用该技术。（贝南蒂的工作人员称他受“保密誓言”约束。）
今年5月，教皇利奥十四世发布了他的首份通谕，这是一封将宗教教义应用于当代问题并阐明教会立场的信件，他选择了人工智能作为主题。
信中，教皇警告AI行业中盛行的技术官僚逻辑，将“效率视为价值的最终衡量标准”，并将人类视为“一个需要优化的项目”。他呼吁超级大国和AI公司之间开展国际合作，放下“争夺地缘政治或商业主导地位的欲望”，确保技术为公共利益服务。在一段尤为预见性的内容中，他警告“人类可能成为自身成就的牺牲品”。
贝南蒂表示，围绕超级智能和存在性风险的争论可能分散人们对通谕中提出目标的关注，促使公众将技术发展方向的发言权拱手让给少数数学家、计算机科学家和大型实验室高管。
他说：“首先，我们需要刹车和方向盘，这意味着人类必须对机器拥有实质性的控制权。”
