교황 레오 14세는 월요일에 인공지능에 전적으로 초점을 맞춘 245개 문단으로 구성된 첫 번째 회칙을 발표했습니다. 이 회칙은 거대 기술 기업에 대한 더욱 엄격한 감독을 요구하고, 데이터를 공유된 인류 자원으로 분류하며, 기술은 그것을 만드는 사람의 가치관, 맹점, 경제적 동기를 흡수하기 때문에 "결코 중립적이지 않다"고 주장합니다.
「위대한 인류」(Magnifica Humanitas)라는 제목의 이 문서는 5월 25일 바티칸 시노드 회의장에서 공개되었습니다. 교황 레오 13세는 이 문서에 10일 전인 5월 15일, 즉 1891년 노동권에 관한 회칙 「레룸 노바룸」(Rerum Novarum) 발표 135주년 기념일에 서명했습니다. 이 회칙은 현대 가톨릭 사회 교리의 기초가 되었습니다.
교황 레오는 인공지능을 자신의 교황 재임 기간 중 가장 중요한 도덕적 과제로 일관되게 규정해 왔으며, 다가올 사회적 격변을 산업혁명에 비유했습니다.
이번 회칙은 전쟁에서의 인공지능, 비인간화, 기술관료주의, 데이터 식민주의, 온라인 아동 안전, 대규모 실업, 허위 정보, 자율 무기, 심지어 트랜스휴머니즘까지 광범위한 주제를 다룹니다. 하지만 이 모든 것을 관통하는 핵심 주장은 간단합니다. 모든 알고리즘은 그것을 설계하고 자금을 지원하고 배포한 사람들의 우선순위를 반영한다는 것입니다. 그렇지 않은 척하는 시스템을 구축한다고 해서 그러한 편향이 사라지는 것은 아닙니다. 단지 숨겨질 뿐입니다.
가톨릭 사회 교리는 오랫동안 지구의 천연 자원은 사유 재산이 아니라 모든 인류를 위한 것이라고 가르쳐 왔습니다. 레오 교황은 이러한 원칙을 디지털 경제에도 직접 적용합니다. 회칙은 알고리즘, 플랫폼, 데이터는 소수의 기업이 독점하는 상업적 영역이 아니라 공공재로 다스려져야 한다고 주장합니다.
교황은 "데이터는 많은 기여자의 산물이며, 팔거나 소수의 특정인에게 맡길 수 있는 대상으로 취급되어서는 안 된다"고 썼습니다.
본문은 또한 보조성의 원칙, 즉 결정은 가능한 한 가장 지역적인 수준에서 이루어져야 한다는 원칙을 기술 플랫폼에도 구체적으로 적용합니다. 교황 회칙은 단순히 하향식 규제만을 요구하는 것이 아니라, 투명한 알고리즘, 독립적인 커뮤니티 감사, 그리고 신용 점수, 구직 신청, 범죄 위험 평가 등에 영향을 미치는 자동화 시스템에 대해 사람들이 이의를 제기할 수 있는 실질적인 법적 권한을 옹호합니다. 레오 교황은 이러한 분산된 감독이 없다면 인공지능의 관리는 자신이 봉사해야 한다고 주장하는 사람들의 목소리를 억압하는 디지털 권위주의의 한 형태가 될 것이라고 주장합니다.
교황 회칙은 또한 인간의 한계와 취약성을 제거해야 할 결함으로 여기는 트랜스휴머니즘을 비판합니다. 레오 교황은 유한성은 결함이 아니라 공감, 도덕적 판단, 그리고 타인에 대한 진정한 배려를 가능하게 하는 요소라고 반박합니다. 유한성을 없애도록 설계된 시스템은 더 나은 인간을 만들어내는 것이 아니라, 취약한 사람들을 더욱 효율적으로 평가하고 배제하는 시스템을 만들어낼 뿐입니다.
교황은 기술에 인간적인 면모를 부여하지 않도록 주의를 기울였습니다. 회칙에서 교황은 인공지능 시스템은 "육체를 갖고 있지 않으며, 기쁨이나 고통을 느끼지 못한다"고 지적합니다. 또한 인공지능 시스템은 진정한 이해를 가능하게 하는 삶의 경험이 부족하다고 강조합니다. 공감을 흉내 내고 설득력 있는 언어를 만들어낼 수는 있지만, 자신이 만들어낸 내용을 이해하지는 못한다는 것입니다.
그러한 구분은 실질적으로 중요합니다. 알고리즘이 채용 결정을 내리거나, 신용 조건을 설정하거나, 법정에서 위험 점수를 부여할 때, 겉으로 드러나는 객관성은 설계자가 의도한 선택들을 가립니다. 교황 회칙은 특히 "연민, 자비, 용서를 알지 못하는" 자동화 시스템에 민감한 결정을 맡기는 것과 기계가 만들어냈다는 이유만으로 결과를 중립적인 것으로 취급하는 것에 대해 경고합니다.
월요일에 레오와 함께 무대에 오른 인물은 문서 자체만큼이나 많은 관심을 끌었습니다. 앤트로픽(Anthropic)의 공동 창립자이자 해석 가능성 연구팀 책임자인 크리스토퍼 올라가 바티칸 추기경 두 명과 신학자 두 명과 함께 시노드 홀 발표회에서 연설했습니다.
디크립트(Decrypt) 레오 교황 선출 당시 보도했듯이 , 교황은 추기경들에게 한 첫 연설부터 인공지능을 자신의 교황직의 핵심적인 도덕적 문제로 규정했습니다. 월요일에 발표된 회칙은 그러한 의지를 공식적으로 교리화한 것입니다.
올라는 이 기회를 빌어 대부분의 AI 경영진이 회피하는 발언을 공개적으로 했습니다. 모든 주요 연구소는 "때로는 옳은 일을 하는 것과 충돌할 수 있는 일련의 인센티브와 제약 조건 내에서 운영된다"는 점, 그리고 정부, 종교 기관, 시민 사회 등 외부의 감시는 선택 사항이 아니라는 점을 강조했습니다. 그는 또한 AI로 인한 노동력 대체가 단기적인 위험이며, 만약 대규모로 현실화된다면 "역사적 규모의 도덕적 의무"를 초래할 것이라고 지적했습니다.
레오 교황은 이미 그 주장의 더욱 강경한 버전을 제시한 바 있다. 회칙은 "더 도덕적인 AI만으로는 충분하지 않다"며, 데이터와 컴퓨팅을 통제하는 자가 AI의 도덕성을 독점적으로 결정한다면 문제가 된다고 지적한다. 레오 교황은 2025년 11월 바티칸에서 실리콘 밸리 경영진들에게도 같은 주장을 직접 전달했다 . 바티칸은 또한 5월 16일, 7개 부서에서 선발된 인사들로 구성된 새로운 내부 AI 위원회를 승인하여 향후 교황청 전반의 AI 거버넌스 업무를 조율하도록 했다.
