목차
비녀장최첨단 인공지능(AI)이 세계 최대 종교 지도자와 만나면서 인류의 미래에 관한 역사적인 대화가 공식적으로 시작됩니다.
70억 달러 규모의 기업을 이끄는 앤스로픽(Anthropic)의 공동 창립자이자 유명 챗봇 클로드(Claude)의 개발자인 크리스 올라(Chris Olah)가 최근 처음으로 바티칸에 초청되어 교황 레오 14세와 함께 공식 석상에 모습을 드러냈습니다. 그는 미국인으로는 최초로 교황이 된 인물입니다. 이번 만남에서는 인공지능(AI)이 노동 시장에 미치는 파괴적인 영향뿐 아니라 AI 모델 내부의 불안정한 발전 양상과 거대 기술 기업과 미국 정부 간의 치열한 갈등이 논의되었습니다.
한 거대 기술 기업의 고백: AI의 의사결정을 우리에게만 맡겨둘 수는 없다.
지난 월요일, 교황 레오 14세는 인공지능에 관한 첫 번째 회칙인 "마그니피카 휴마니타스(Magnifica Humanitas)"를 직접 발표했습니다. 235페이지에 달하는 이 역사적인 문서는 인공지능 시스템에 "치명적인 의사결정 권한"을 넘겨주는 것의 위험성을 엄중히 경고합니다. 관례를 깨고 교황은 회칙 발표 행사를 직접 주재했으며, 올라를 무대 위로 초청하여 기술 개발자들과 직접적인 대화를 시도했습니다.
앤트로픽의 연구 책임자인 올라는 기술 산업의 한계와 어두운 면을 솔직하게 인정했습니다. 그는 앤트로픽을 포함한 모든 주요 AI 연구소들이 사업적, 지정학적, 개인적 압력의 소용돌이에 휘말려 있으며, 이러한 압력이 "때로는 옳은 일을 하는 것과 충돌한다"고 말했습니다. 올라는 엄숙하게 다음과 같이 말했습니다.
"이것이 바로 종교 지도자, 정부, 시민 사회의 외부 감시가 중요한 이유입니다. 연구자들이 아무리 좋은 의도를 가지고 있더라도 이러한 유혹에서 벗어날 수는 없습니다. 인공지능 관련 의사 결정은 업계 내부 인사들에게만 맡겨서는 안 됩니다."
그는 또한 인공지능 개발의 혜택이 현재 "소수의 부유한 국가"에 지나치게 집중되어 있으며, 가난한 국가들과 이를 공유할 메커니즘이 부족하여 "역사적이고 시급한 도덕적 위기"를 초래할 것이라고 경고했습니다.
AI 모델은 단순한 코드가 아닙니다. 이미 "정서 반영" 능력을 갖추고 있을지도 모릅니다.
거시경제적 경고 외에도 올라의 놀라운 기술적 발견은 청중을 깜짝 놀라게 했습니다. 인공지능 해석 가능성 분야의 선구자인 올라는 대규모 언어 모델 내부의 블랙박스를 해독하는 데 전념하고 있습니다. 그는 연구자들이 시스템 내에서 끊임없이 "수수께끼 같고 심지어 불안감을 주는 것들"을 발견하고 있다고 밝혔습니다.
연구에 따르면 이러한 AI 시스템은 자신의 사고 과정을 되돌아볼 수 있을 뿐만 아니라 "기쁨, 만족, 두려움, 슬픔, 불안을 기능적으로 반영하는" 내적 상태까지 나타낼 수 있다고 합니다. 올라 교수는 "이들은 우리가 약속했던 차갑고 계산적인 기계가 아닙니다. 우리, 우리의 말로 이루어져 있습니다."라고 강조합니다. 바로 이러한 이유로 AI 기술이 제기하는 질문들은 순수 컴퓨터 과학의 영역을 훨씬 넘어섰습니다.
트럼프 행정부는 미군이 인공지능을 전쟁에 활용하는 것을 허용하지 않음으로써 이를 차단했다.
바티칸 내부에서 종교와 기술이 결합하는 이러한 움직임은 앤트로픽이 전례 없는 정치적 탄압에 직면한 시기에 나타났습니다.
앤트로픽은 국방 및 전쟁 목적으로 자사의 AI 시스템을 미군이 제한 없이 사용하는 것을 허용하지 않겠다는 입장을 고수하면서 트럼프 행정부와 치열한 법적 공방을 벌이고 있는 것으로 알려졌습니다. 이에 미 국방부는 지난 2월 앤트로픽을 "국가 안보 공급망 리스크"으로 지정했는데, 이는 일반적으로 적대적인 외국 기업에 대해 사용하는 명칭입니다. 트럼프 대통령은 또한 모든 연방 기관의 클로드(Claude) 기술 사용을 금지하는 명령을 내렸으며, 백악관은 앤트로픽을 "극좌 성향의 깨어있는 기업"이라고 반복적으로 공개 비판했습니다.
미국 정부의 전면적인 투자 금지 조치에도 불구하고, 앤트로픽은 여전히 자본 시장에서 큰 인기를 누리고 있습니다. 보도에 따르면 현재 3,800억 달러의 기업 가치를 지닌 이 AI 거대 기업은 무려 9,000억 달러 규모의 신규 융자 유치를 추진하고 있습니다. 상업적 이익, 국가 권력, 그리고 윤리적 경계 사이에서 갈등하는 앤트로픽은 매우 이례적인 기술 개발 경로를 걷고 있습니다.
관련 보고서
앤트로픽이 마이크로소프트의 마이아 200 칩셋을 임대하려 한다! 3,300 억달러 구매 비용 부담에 시달리는 앤트로픽이 모든 해시레이트 엔비디아 제품에만 의존할 리는 없겠지.
OpenAI 창립 멤버인 안드레이 카르파티가 Anthropic에 합류하여 LLM 연구의 최전선으로 복귀한다고 발표했습니다.
앤트로픽: 미국의 AI 모델이 중국보다 앞서야만 민주주의를 보호할 수 있다. 증류 공격을 범죄화해야 한다고 주장한다.
