教宗利奧三世發佈首份人工智能通諭,稱數據為公共利益,並駁斥科技的道德中立性。

本文為機器翻譯
展示原文

教宗利奧十四世於週一發表了他的第一份通諭,這份長達 245 段的文件完全致力於人工智能,要求對大型科技公司進行更嚴格的監管,將數據歸類為共享的人力資源,並認為“技術永遠不會是中立的”,因為它會吸收建造者的價值觀、盲點和經濟動機。

這份名為《偉大的人性》(Magnifica Humanitas)的文件於 5 月 25 日在梵蒂岡主教會議廳發佈。教宗良十三世於 10 天前的 5 月 15 日簽署了該文件,當天也是《新事通諭》(Rerum Novarum)頒佈 135 週年紀念日——該通諭是教宗良十三世於 1891 年頒佈的關於勞工權利的通諭,成為現代天主教社會訓導的基礎。

教宗利奧一貫將人工智能視為他教宗任期內最重要的道德挑戰,並將即將到來的社會變革比作工業革命。

這篇通諭涵蓋了諸多方面:人工智能在戰爭中的應用、非人化、技術統治、數據殖民主義、兒童網絡安全、大規模失業、虛假信息、自主武器,甚至包括超人類主義。但貫穿全文的論點卻很簡單:每個算法都反映了設計、資助和部署它的人的優先事項。構建看似不存在這種偏見的系統並不能消除它——它只是掩蓋了偏見而已。

天主教社會訓導長期以來認為,地球的自然資源屬於全人類,而非私人所有。利奧教宗將這一原則直接延伸至數字經濟領域。通諭指出,算法、平臺和數據必須作為公共資源進行管理,而非被少數公司鎖在商業壁壘之後。

教皇寫道:“數據是眾多貢獻者的成果,不應該被當作可以出售或委託給少數人的東西。”

該文本還將輔助性原則——即決策應儘可能在最基層層面做出——應用於科技平臺。通諭並非僅僅呼籲自上而下的監管,而是倡導算法透明化、社區獨立審計,以及賦予民眾真正的法律權力,使其能夠質疑影響其信用評分、求職申請或犯罪風險評估的自動化系統。利奧認為,如果沒有這種分散的監督機制,人工智能治理就會演變成一種數字威權主義,壓制其聲稱要服務的民眾的聲音。

這篇通諭也抨擊了超人類主義——即認為人類的侷限性和脆弱性是需要通過工程手段消除的缺陷。利奧的反駁是,有限性並非缺陷,它恰恰是同理心、道德判斷和對他人的真切關懷得以存在的根基。旨在消除有限性的系統並不能造就更優秀的人,它們只會更有效地評估和排斥弱勢群體。

教宗謹慎地避免將人工智能技術擬人化。通諭指出,人工智能系統“沒有肉體,不會感受快樂或痛苦”。通諭還指出,人工智能系統缺乏產生真正理解所需的生活經驗。它們可以模擬同理心,也能生成令人信服的語言,但它們並不理解自己輸出的內容。

這種區別在實踐中至關重要。當算法做出招聘決定、設定信貸條款或在法庭上進行風險評分時,其表面上的客觀性掩蓋了設計者預設的選擇。該通諭特別警告不要將敏感決策委託給“不懂得同情、憐憫和寬恕”的自動化系統,也不要僅僅因為結果是由機器生成的就將其視為中立的。

週一與利奧同臺演講的人,其影響力絲毫不亞於文件本身。克里斯托弗·奧拉(Christopher Olah)——人格研究所(Anthropic)聯合創始人兼可解釋性研究團隊負責人——與兩位梵蒂岡樞機主教和兩位神學家一同在主教會議大廳發表了演講。

正如Decrypt在利奧當選教宗時報道的那樣,教宗從首次向樞機主教發表講話起,就將人工智能視為其教宗任期內的核心道德問題。週一發佈的通諭正是這一承諾的正式教義版本。

奧拉藉此機會坦率地談到了大多數人工智能高管避而不談的一點:每個大型實驗室“都受到一系列激勵和約束的制約,這些制約有時會與做正確的事相沖突”,而且來自政府、宗教機構和民間社會的外部監督並非可有可無。他還指出,人工智能導致的勞動力流失是一個近期風險,如果這種情況大規模發生,將會帶來“史無前例的道德責任”。

利奧此前已撰寫過更為強硬的版本。他在通諭中指出,“如果人工智能背後的道德標準完全由控制數據和計算能力的人決定,那麼僅僅擁有更符合道德的人工智能是不夠的。” 2025年11月,利奧在梵蒂岡直接向硅谷高管闡述了同樣的觀點。此外,梵蒂岡於5月16日批准成立一個新的內部人工智能委員會,成員來自七個部門,旨在協調聖座未來的人工智能治理工作。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
56
收藏
16
評論