教宗利奥十四世于周一发表了他的第一份通谕,这份长达 245 段的文件完全致力于人工智能,要求对大型科技公司进行更严格的监管,将数据归类为共享的人力资源,并认为“技术永远不会是中立的”,因为它会吸收建造者的价值观、盲点和经济动机。
这份名为《伟大的人性》(Magnifica Humanitas)的文件于 5 月 25 日在梵蒂冈主教会议厅发布。教宗良十三世于 10 天前的 5 月 15 日签署了该文件,当天也是《新事通谕》(Rerum Novarum)颁布 135 周年纪念日——该通谕是教宗良十三世于 1891 年颁布的关于劳工权利的通谕,成为现代天主教社会训导的基础。
教宗利奥一贯将人工智能视为他教宗任期内最重要的道德挑战,并将即将到来的社会变革比作工业革命。
这篇通谕涵盖了诸多方面:人工智能在战争中的应用、非人化、技术统治、数据殖民主义、儿童网络安全、大规模失业、虚假信息、自主武器,甚至包括超人类主义。但贯穿全文的论点却很简单:每个算法都反映了设计、资助和部署它的人的优先事项。构建看似不存在这种偏见的系统并不能消除它——它只是掩盖了偏见而已。
天主教社会训导长期以来认为,地球的自然资源属于全人类,而非私人所有。利奥教宗将这一原则直接延伸至数字经济领域。通谕指出,算法、平台和数据必须作为公共资源进行管理,而非被少数公司锁在商业壁垒之后。
教皇写道:“数据是众多贡献者的成果,不应该被当作可以出售或委托给少数人的东西。”
该文本还将辅助性原则——即决策应尽可能在最基层层面做出——应用于科技平台。通谕并非仅仅呼吁自上而下的监管,而是倡导算法透明化、社区独立审计,以及赋予民众真正的法律权力,使其能够质疑影响其信用评分、求职申请或犯罪风险评估的自动化系统。利奥认为,如果没有这种分散的监督机制,人工智能治理就会演变成一种数字威权主义,压制其声称要服务的民众的声音。
这篇通谕也抨击了超人类主义——即认为人类的局限性和脆弱性是需要通过工程手段消除的缺陷。利奥的反驳是,有限性并非缺陷,它恰恰是同理心、道德判断和对他人的真切关怀得以存在的根基。旨在消除有限性的系统并不能造就更优秀的人,它们只会更有效地评估和排斥弱势群体。
教宗谨慎地避免将人工智能技术拟人化。通谕指出,人工智能系统“没有肉体,不会感受快乐或痛苦”。通谕还指出,人工智能系统缺乏产生真正理解所需的生活经验。它们可以模拟同理心,也能生成令人信服的语言,但它们并不理解自己输出的内容。
这种区别在实践中至关重要。当算法做出招聘决定、设定信贷条款或在法庭上进行风险评分时,其表面上的客观性掩盖了设计者预设的选择。该通谕特别警告不要将敏感决策委托给“不懂得同情、怜悯和宽恕”的自动化系统,也不要仅仅因为结果是由机器生成的就将其视为中立的。
周一与利奥同台演讲的人,其影响力丝毫不亚于文件本身。克里斯托弗·奥拉(Christopher Olah)——人格研究所(Anthropic)联合创始人兼可解释性研究团队负责人——与两位梵蒂冈枢机主教和两位神学家一同在主教会议大厅发表了演讲。
正如Decrypt在利奥当选教宗时报道的那样,教宗从首次向枢机主教发表讲话起,就将人工智能视为其教宗任期内的核心道德问题。周一发布的通谕正是这一承诺的正式教义版本。
奥拉借此机会坦率地谈到了大多数人工智能高管避而不谈的一点:每个大型实验室“都受到一系列激励和约束的制约,这些制约有时会与做正确的事相冲突”,而且来自政府、宗教机构和民间社会的外部监督并非可有可无。他还指出,人工智能导致的劳动力流失是一个近期风险,如果这种情况大规模发生,将会带来“史无前例的道德责任”。
利奥此前已撰写过更为强硬的版本。他在通谕中指出,“如果人工智能背后的道德标准完全由控制数据和计算能力的人决定,那么仅仅拥有更符合道德的人工智能是不够的。” 2025年11月,利奥在梵蒂冈直接向硅谷高管阐述了同样的观点。此外,梵蒂冈于5月16日批准成立一个新的内部人工智能委员会,成员来自七个部门,旨在协调圣座未来的人工智能治理工作。




