방금 구글의 최신 AGI(인공일반지능) 논문을 다 읽었는데, 관점이 매우 대담하고 암호화폐 네이티브(crypto-native)해서 한때 암호화폐 프로젝트의 백서를 읽고 있는 게 아닌가 하는 착각이 들 정도였습니다. 핵심 관점 몇 가지를 정리해 드립니다: 1. AGI는 결국 CEO가 아닌 DAO(탈중앙화 자율조직)의 형태가 될 것입니다.우리는 흔히 어느 날 아침 자고 일어났을 때 GPT-10 같은 전지전능한 신이 탄생해 있을 것이라는 환상을 갖곤 합니다. 하지만 논문은 미래의 AGI가 분산형 구조일 확률이 높다고 지적합니다. 회사 내에 모든 일을 다 잘하는 사람이 없는 것처럼, AGI는 수많은 상호 보완적인 '특화 에이전트(Agent)'들로 구성된 네트워크가 될 것입니다. 이 네트워크에는 단일 중심점이 없으며, 초지능은 에이전트들 사이의 치열한 거래와 협업 속에서 발현됩니다. 다시 말해, AGI는 단일 개체가 아니라 일종의 '시장 상태'입니다. 2. AGI의 거버넌스는 '법률'이 아닌 '스마트 컨트랙트'에 의존해야 합니다.모델이 단일 구조에서 시장 구조로 변모함에 따라, 안전 패러다임 역시 '심리학'에서 '거버넌스 학문'으로 전환되어야 합니다. 이전의 AI 안전은 하나의 거대한 두뇌를 정렬(Alignment)하는 문제였습니다. 하지만 초당 수억 번씩 발생하는 고빈도 상호작용 상황에서 인간의 감독은 무력합니다. 따라서 스마트 컨트랙트의 도입이 필수적입니다. 에이전트가 과업을 완료하면 오라클(Oracle)이 결과를 검증하고, 결제를 자동 집행하는 방식입니다. '코드가 곧 법'이 되어 안전 제약 조건을 충족하지 못하면 자금 흐름이 차단됩니다. 3. '스테이킹(Staking)'과 '슬래싱(Slashing)'의 도입에이전트의 악행을 어떻게 방지할까요? 연구팀은 놀랍게도 PoS(지분 증명) 메커니즘을 그대로 복제했습니다. 에이전트가 큰 규모의 주문을 수주하고 싶다면 먼저 자산을 스테이킹해야 합니다. 만약 감사 과정에서 악행이 적발되면, 스마트 컨트랙트가 즉시 담보 자산을 몰수(Slashing)합니다. 이러한 경제적 담보 기반의 신뢰는 단순한 코드 검수보다 훨씬 효과적입니다. 4. 온체인 신원 인증(DID)과 '가스비(Gas Fee)' 조절 DID: 시빌 공격(Sybil Attack)을 방지하기 위해, 각 에이전트는 공개키 암호학 기반의 고유 신원을 가져야 하며 이는 법적 실체와 연결되어야 합니다. 동적 가스비: 스팸 데이터 오염을 막기 위해 에이전트의 작업에 동적 수수료를 부과할 것을 제안합니다. 이는 이더리움 네트워크가 혼잡할 때 적용되는 가스비 조절 메커니즘과 정확히 일치합니다. 5. 기록의 온체인화모든 의사결정과 거래 내역은 암호학적으로 안전하며 수정이 불가능한 '추가 전용(Append-only)' 원장에 기록되어야 합니다. 이는 시스템에 문제가 발생했을 때 포렌식 분석을 가능하게 하며, 누구도 책임을 회피할 수 없도록 보장하기 위함입니다. 이 논문은 AI 안전의 패러다임 전환을 상징합니다. 즉, 단순한 컴퓨터 과학 및 가치 정렬의 문제를 넘어 경제학 및 게임 이론의 영역으로 확장된 것입니다. 암호화폐 업계가 지난 10여 년간 치열하게 고민해 온 DID, 스마트 컨트랙트, 오라클, 경제 모델, 거버넌스 메커니즘 등은 그것의 성숙 여부와 관계없이 최소한 몇 걸음 앞서 나간 탐색이었습니다. 그리고 그 발걸음은 어쩌면 미래의 거대하고 탈중앙화된 실리콘 기반 생명체 집단을 위한 기초가 될지도 모릅니다. 미래의 AGI 안전 전문가는 코드를 짜는 엔지니어라기보다, 게임 이론과 시장 설계, 그리고 탈중앙화 거버넌스를 이해하는 'AI 경제학자'에 가까울 것입니다. 우리의 본질적인 과제는 거대 모델의 뉴런을 수정하는 것에 그치지 않고, 이 새로운 종(種)의 합의, 인센티브, 그리고 거버넌스 모델을 설계하는 것이기 때문입니다. 논문의 정보량이 방대하여 위 내용은 일부에 불과합니다. 관심 있는 분들은 원문을 읽어보시길 권장합니다.

이 논문이 기술, 경제, 그리고 게임 이론의 벽을 허물 수 있었던 것은 각 분야의 역량이 정점에 도달한 이른바 '육각형 전사'들로 구성된 팀 덕분입니다. 제1저자 네나드 토마셰프(Nenad Tomašev): DeepMind의 상급 수석 과학자입니다. 그는 진정한 의미의 학문적 경계를 넘나드는 전문가로, AlphaZero와 관련된 게임 AI 연구에 참여했으며 《Virtual Agent Economies》의 제1저자이기도 합니다(이전에 이 논문에 대해서도 자세히 다룬 적이 있습니다). 즉, '게임 이론'을 가장 잘 이해하는 사람이 설계한 AI 시장 거버넌스 방안인 셈입니다. 중심축 사이먼 오신데로(Simon Osindero): AI의 대부 제프리 힌튼(Geoffrey Hinton)의 제자이자 심층 신뢰 신경망(DBN)의 공동 발명자로, 인용 횟수가 5.7만 회가 넘는 태두급 인물입니다. 그의 참여는 전체 이론이 하부 기술 측면에서 절대적인 엄밀함을 갖추도록 보장합니다. 정책 및 경제 자문단: DeepMind의 AGI 정책 책임자인 세바스티앙 크리에(Sébastien Krier, 헌법 및 규제 설계 담당), 옥스퍼드 대학의 정치 경제학자 줄리안 제이콥스(Julian Jacobs), 그리고 케임브리지/UCL 소속의 AI 윤리 전문가 마티야 프랭클린(Matija Franklin) 등이 포함되어 있습니다. 이것은 단순한 학술 논문이 아닙니다. 구글 딥마인드의 원로급 연구원들이 힘을 합쳐 AGI를 위해 처방한 일종의 **'미래 처방전'**입니다. x.com/chaowxyz/status/20025827...…

논문 전문 Distributional AGI Safety

한글 번역 blog.naver.com/ryogan/22411785...…