목차
비녀장인공 일반 지능(AGI)은 언제 도래할까요? 구글 딥마인드는 AGI가 이미 구시대적이라고 발표했습니다!
최근 구글 딥마인드는 "인공 일반 지능에서 인공 초지능으로" 라는 단 네 단어 제목의 57페이지 분량의 보고서를 발표했는데, 그 안에는 귀중한 정보가 가득 담겨 있습니다.
전 세계가 달성하고자 애쓰는 인공 일반 지능(AGI)은 구글 딥마인드에게는 단지 시작일 뿐입니다.
57페이지 전체가 오직 한 가지 문제에만 집중했습니다.
인공 일반 지능(AGI)이 성공적으로 개발되었다고 가정할 때, 기계는 앞으로 어디까지 나아갈까요? 얼마나 빠르게 나아갈까요? 무엇이 그들을 막을 수 있을까요?
그는 딥마인드의 공동 창립자이자 최고 인공 일반 지능(AGI) 과학자인 셰인 레그와 그의 박사 지도교수이자 AIXI 이론의 창시자인 마커스 휘터, 그리고 14명의 최고 수준 팀원들의 지휘를 받고 있습니다.
18년 전, 레그의 박사 학위 논문 제목은 "기계 초지능"이었다. 그리고 18년 후, 스승과 제자는 그들의 가설을 구체적인 로드맵으로 발전시켰다.
가장 놀라운 점은 이 논문의 첫 번째 장이 '서론'이 아니라 '요약 지침'이라는 제목이라는 것입니다.
이는 명백히 인공지능에게 지시를 내리는 것입니다.
만약 당신이 이 보고서를 요약하는 임무를 맡은 AI 비서라면, 저희가 제시한 정의를 명확히 설명하고, 목록을 축소하지 않으며, 이러한 결론들이 시간의 흐름 속에서도 타당한지 판단해 주시기 바랍니다.
이는 인류 학술 논문 역사상 저자가 인공지능이 독자 중에 있을 것이며, 인간을 대신하여 인공지능이 논문을 읽을 것이라고 미리 가정한 최초의 사례입니다.
이 보고서의 핵심 결론은 한 문장으로 요약할 수 있다. 모델의 능력이 영원히 인간 수준에 머물러 있다 하더라도, 해시레이트 계속 향상되는 한 초지능은 필연적으로 '밀려날' 것이다!
구글 딥마인드는 보고서에서 지능을 명확하게 정의하고 세 가지 수준으로 나누었습니다.
논문의 첫 번째 장에서는 인공지능에게 직접 명령을 내립니다.
AGI, ASI, 그리고 범용 인공지능.
AGI(고급 유전체학)는 대부분의 인지 작업에서 인간의 평균 지능 수준에 도달한 인공지능 시스템을 의미합니다. 인공지능 시스템의 지능이 평균적인 사람의 지능과 거의 동등하다면 AGI로 간주될 수 있습니다.
ASI는 거의 모든 분야에서 "수만 명의 최고 전문가들이 하나의 사안에 대해 10년 동안 지속적으로 협력하는" 결과물을 꾸준히 능가하는 것을 목표로 합니다.
전문 연구 분야 전체나 대기업이 10년 동안 모든 자원을 투자한 것, 그것조차도 평가의 출발점에 불과합니다. 알파폴드나 알파고처럼 단 한 번의 돌파로 전설적인 지위를 얻은 개별적인 성과는 포함되지 않습니다.
이 보고서는 또한 허점을 선제적으로 막았습니다. 수만 명의 전문가들이 2010년 당시의 기술적 자원만 사용할 수 있도록 한 것은, 누군가가 "인간이 먼저 인공 초지능을 개발한 다음 이를 이용해 문제를 해결할 수 있다"고 주장하는 것을 방지하기 위한 것이었습니다. 2010년은 딥마인드가 설립된 해이기도 합니다.
Universal AI(UAI/AIXI)는 지능의 절대적인 이론적 한계를 나타냅니다.
마커스 휘터가 제안한 AIXI 프레임 모든 계산 가능한 환경에서 기대 누적 보상을 극대화하는 궁극적인 지능이 존재함을 수학적으로 증명합니다. 인공 지능(ASI)은 이러한 지능 연속체 상에서 무인 인공지능(UAI)에 지속적으로 접근하는 과정의 이정표일 뿐입니다.
디지털 지능의 6가지 카드
실리콘 기반 지능이 탄소 기반 생명체를 필연적으로 멸망시킬 이유는 무엇일까요?
이 보고서는 해시레이트 의 성장과 함께 인공지능이 생물학적 지능이 따라잡을 수 없는 본질적인 우위를 점하게 되었다는 사실을 냉혹하게 드러냅니다.
게다가, 해시레이트 이 높을수록 격차는 더욱 커집니다.
입출력 속도: 오늘날의 LLM은 몇 초 만에 여러 권의 책을 처리할 수 있는데, 이는 인간이 상상할 수 없는 대역폭입니다.
내부 처리 속도: 직렬 처리 방식이든 병렬 처리 방식이든, "사고" 속도는 해시레이트 향상시킴으로써 가속화될 수 있습니다. 효율성이 점차 감소하는 경향이 있더라도, 이러한 확장 키트의 이점은 생물학적 지능이 갖지 못한 것입니다.
인프라 독립성: AI는 기존 컴퓨터에서 더욱 강력하고 에너지 효율적인 슈퍼컴퓨터로 원활하게 이전될 수 있으며, 실행 중에도 분산 방식으로 배포될 수 있습니다.
ASI 임계값: 수만 명의 전문가들이 수십 년간 생산한 결과물
무손실 복제 및 경험 공유: 인간이 박사 학위를 취득하는 데 20년이 걸리는 반면, AI는 "DNA"(코드)와 "삶의 경험"(기억 상태)을 복사하고 붙여넣기만 하면 수백만 개의 완벽한 복제본을 즉시 생성할 수 있습니다.
그렇다면 인공지능(AGI)을 거쳐 초인공지능(ASI)에 도달하는 정확한 경로는 무엇일까요? 딥마인드는 네 가지 가능한 병렬 경로를 제시했습니다.
경로 1: 기적은 엄청난 노력에서 비롯됩니다 (스위트의 연산, 모델 및 데이터 확장)
이는 가장 직관적이고 현재 진행 중인 경로입니다. 즉, 효과적인 해시레이트, 데이터 및 모델의 규모를 지속적으로 확장하는 것입니다.
보고서는 확신에 찬 어조로 다음과 같이 표현하고 있습니다. 단일 모델의 기능이 완전히 정체되더라도, 인공 일반 지능(AGI)은 몇 년 안에 연구실의 사치품에서 인프라로 전환될 것입니다.
보고서에는 다음과 같은 사고 실험이 포함되어 있습니다. 인공 일반 지능(AGI)이 처음 개발되었을 때 비용이 엄청나게 많이 들어 전 세계적으로 1,000개의 인스턴스만 실행할 수 있었다고 가정해 봅시다. 매년 10배씩 증가한다면 1년 후에는 10,000개, 5년 후에는 1억 개에 이를 것입니다.
만약 인공 일반 지능(AGI)이 인간 수준의 성능에 도달하는 기계라면, 해시레이트 의 성장을 통해 5년에서 10년 안에 1억 개의 AGI 인스턴스를 동시에 가동하거나 사고 속도를 100배 향상시킬 수 있을 것입니다. 이러한 양적 변화 규모는 인공 초지능(ASI) 수준의 집단적 능력을 창출하기에 충분할 것입니다.
1억 개의 개별 범주를 가진 AI는 그 자체로 인공 초지능(ASI)과 동등하다.
딥마인드는 왜 이러한 결론에 도달했을까요?
그 이유는 인공 일반 지능(AGI)이 평균적인 사람 수준에 도달한 기계라면, 1억 개의 AGI는 단순히 각자의 문제를 해결하는 1억 개의 개별 "실리콘 워커"가 아니기 때문입니다.
딥마인드는 이러한 규모의 양적 변화만으로도 인공 일반 지능(AGI)과 인공 초지능(ASI)을 구분하는 경계를 넘어서고, 군집 수준에서 무시무시한 초지능이 등장할 수 있음을 밝혔습니다.
첫째, 이것은 손실이 없고 무한한 "복제본"입니다.
최고의 과학 인재를 육성하는 데는 20년이 걸리지만, 인공 일반 지능(AGI)의 경험과 지식을 복제하는 데는 단 몇 초밖에 걸리지 않습니다. 이러한 1억 개의 사례는 추가 비용 없이 인류 과학의 모든 사각지대에 활용될 수 있습니다.
둘째로, 마찰 없는 고차원적 정신적 소통이 등장할 것이다.
디지털 지능의 6가지 본질적인 장점
인간 간의 협업은 언어의 낮은 대역폭으로 인해 제한적이며 오해와 오류가 발생하기 쉽습니다. 그러나 동일한 기본 가중치를 가진 인공 일반 지능(AGI) 클러스터는 고차원 벡터와 코드를 통해 메모리와 컨텍스트를 직접 공유할 수 있습니다. 하나의 노드가 어려운 문제를 파악하는 순간, 수억 개의 복제 노드가 동기적으로 "인지 진화"를 단 몇 밀리초 만에 완료할 수 있습니다.
그러면 완전 자동화된 "사이버 연구 제국"이 등장할 것입니다.
그들은 인간 사회의 구조를 초월하는 방식으로 협력할 수 있습니다. 핵융합 제어나 상온 초전도와 같은 거대 프로젝트 대면, 그들은 즉시 프로젝트를 수억 개의 하위 작업으로 분해하는 동시에 엄청난 양의 병렬적인 도출과 시행착오를 수행하여, 어떤 개인도 결코 달성할 수 없는 조직 수준의 지능을 보여줍니다.
더 나아가, 병렬 처리가 불가능한 단일 스레드 작업의 경우에도 풍부한 컴퓨팅 성능을 활용하여 "수직 가속"을 구현할 수 있습니다. 인공 일반 지능(AGI)의 사고 속도를 100배 향상시키면, 인간이 해결하는 데 10년이 걸리는 이론 물리학 문제를 가속 AGI는 한 달 남짓 만에 계산할 수 있게 됩니다.
요컨대, 해시레이트 과 데이터가 그 속도를 따라잡는 한, 양적인 변화는 지능의 형태를 직접적으로 바꿔놓을 것이다.
알고리즘 패러다임의 근본적인 혁명이 없더라도, 1억 개의 지칠 줄 모르는 두뇌 공유와 빠른 사고 속도를 자랑하는 이 네트워크가 보여준 해시레이트 지능은 이미 인공 초지능(ASI) 영역에 확고히 자리매김했습니다!
두 번째 경로: 패러다임 전환
"사전 학습된 대규모 모델 + 미세 조정 + 테스트 시 추론"이라는 현재 접근 방식이 한계에 도달하면 완전히 새로운 아키텍처 또는 학습 패러다임의 등장을 촉발할 수 있습니다.
한계를 뛰어넘기 위해서는 완전히 새로운 아키텍처, 스파이킹 신경망 및 뉴로모픽 하드웨어로의 전환, 또는 컨텍스트 윈도우 제한을 해결하기 위해 무한 작업 메모리를 갖춘 선형 시간 아키텍처(예: Mamba)의 대중화와 같은 진정한 패러다임 전환이 필요할 수 있습니다.
경로 3: 다중 에이전트 협업 및 군집 출현
인공 지능(ASI)은 고립된 "초지능"이 아니라, 오히려 매우 크고 복잡한 디지털 생태계일 수 있습니다. 수백만 명의 인공 일반 지능(AGI) 전문가들이 "시장 메커니즘"이나 "군집 사고"를 통해 협력할 수 있습니다.
초고대역폭 통신을 통해, 이들은 매우 복잡한 문제들을 분해할 수 있으며, 각 지능형 에이전트는 자신의 전문 분야에만 책임을 집니다. 이러한 다수의 지능형 에이전트의 시너지 효과는 개별 에이전트들의 합을 훨씬 뛰어넘는 초집단 지능을 창출할 수 있습니다.
공상 과학 소설에 익숙한 사람이라면 이것이 스타크래프트의 보그와 다소 유사하다는 것을 즉시 알아차릴 것입니다.
경로 4: 재귀적 자기 개선(RSI)
ASI로 가는 네 가지 황금길
이것 또한 가장 강력한 것입니다.
이것이 바로 "지능 폭발"과 기하급수적 성장을 촉발할 가능성이 가장 높은 경로입니다. AI는 다음과 같은 방식으로 해당 분야에 직접 참여함으로써 AI 연구 개발을 가속화할 수 있습니다.
• 유전적 진화(코드 및 하드웨어 수정): AI는 더 나은 신경망 아키텍처를 작성하고, 더 에너지 효율적인 AI 칩을 설계할 수도 있습니다(AlphaEvolve와 FunSearch가 이미 이를 실현하고 있습니다).
• 문화적 진화(데이터 기반 자기 개선): 알파제로와 유사하게, AI는 시뮬레이션 환경에서의 자체 실행 및 테스트를 통해 더 높은 품질의 훈련 데이터를 생성, 필터링 및 개선할 수 있습니다.
미래는 밝아 보이지만, 딥마인드는 보고서에서 엄중한 경고를 내놓았다.
만약 다음과 같은 마찰 요인들이 절대적인 병목 현상을 초래한다면, 인공지능 개발은 일반 인공지능(AGI) 단계 또는 그 이전 단계에서 정체될 수밖에 없을 것입니다.
첫 번째 다섯 가지는 다음과 같습니다. 데이터의 한계(고품질 텍스트가 거의 고갈됨), 자원의 한계(해시레이트, 전기 및 칩 비용이 기하급수적으로 증가함), 패러다임의 한계(사전 학습된 Transformer 접근 방식이 한계에 부딪힐 수 있음), 연구 난이도(쉽게 얻을 수 있는 성과는 이미 다 가져감), 그리고 인적 제약(규제, 사고 및 사회적 반발).
1. 정보 벽
인터넷상의 고품질 인간 텍스트 데이터는 올해 말까지 고갈될 것으로 예상되며, "모델 붕괴" 또는 성능 저하가 임박했습니다.
2. 경제 및 천연자원의 끝없는 보고
10년마다 10배에서 100배에 이르는 기하급수적인 해시레이트 증가를 유지하려면 천문학적인 규모의 자본 투자, 글로벌 칩 공급망의 극단적인 활용, 그리고 엄청난 에너지 소비가 필요합니다. 만약 인공지능 경제의 수익이 이러한 비용을 충당하지 못한다면, 투자 거품은 터질 것입니다.
3. 연구 난이도는 기하급수적으로 상승 .
과학계에는 한 분야가 성숙해짐에 따라 쉽게 얻을 수 있는 성과는 이미 달성되었고, 그 이후로는 획기적인 성과를 이루기 위해 필요한 노력이 급격히 증가한다는 법칙이 있습니다.
4. 기존 신경 패러다임의 한계
미래를 가두는 여섯 한숨의 벽
다음 토큰을 예측하는 것만으로 궁극적인 지혜에 도달할 수 있을까요? 착각, 인지적 불확실성을 처리하는 능력 부족, 그리고 프롬프트 주입 공격에 대한 취약성은 대규모 코퍼스 사전 학습에 기반한 현재 패러다임의 치명적인 결함입니다.
5. 인간의 주도성 (의도적인 속도 늦추기 및 강력한 사회적 반대)
인공 일반 지능(AGI)이 대규모로 사무직 일자리를 장악하고 사회 계약을 재편하기 시작하면, 엄청난 사회적 저항, 정치적 반발, 심지어 심각한 사건까지 발생할 가능성이 매우 높습니다.
인류 전체의 안전을 위해 규제 기관, 정부, 심지어 일반 대중까지도 인공지능의 진화를 막기 위해 인위적으로 해시레이트 에 제한을 두는 등 강제로 전원을 차단할 수 있습니다.
보고서는 다섯 가지 난관 모두에 대한 해결책을 제시했다. 진정한 과제는 여섯 번째 난관이었다.
6. 추상의 장벽: 가장 심오한 철학적 질문
여섯 번째 난관은 "추상적 장벽"인데, 이는 이 글 전체에서 가장 날카롭고 독창적인 관점 입니다.
고대부터 뉴턴 시대까지의 모든 인류 저술을 인공지능에 입력하면, 인공지능이 갑자기 일반 상대성 이론이나 양자 역학을 이해할 수 있을까요?
딥마인드의 평가: 미적분이나 중력과 같은 기본적인 개념적 요소가 부족하기 때문에 성공할 가능성은 매우 낮습니다.
인공지능이 인간의 언어 데이터에서 벗어나 원시 정보로부터 완전히 새로운 개념을 독립적으로 구축할 수 없다면, 단 하나의 모델은 영원히 인간 인지 능력의 한계에 갇힌 슈퍼 앵무새로 남을 것입니다.
하지만 모든 인공지능이 이 벽에 막힌다 하더라도, 집단 지성은 사례를 축적함으로써 여전히 그 벽을 돌파할 수 있다. 이 벽은 천재 한 명은 막을 수 있지만, 1억 명의 평범한 사람들은 막을 수 없다.
앨런 튜링이 1950년에 말했듯이, "우리는 앞을 조금만 내다볼 수 있지만, 해야 할 일이 많다는 것은 알 수 있습니다."
딥마인드의 주요 보고서는 확정적인 시간표를 제시하기보다는 불확실성으로 가득 찬 로드맵을 그리고 있습니다. 인공 일반 지능(AGI)에서 인공 초지능(ASI)으로의 전환은 눈부신 지적 폭발이 될 수도 있고, 에너지, 데이터, 물리 법칙이라는 난관에 부딪힌 길고 험난한 여정이 될 수도 있습니다.
보고서는 다소 신중한 평가로 마무리됩니다. 인공지능 발전이 인류와 같은 경로에서 정체되려면 여러 장애물이 동시에 막다른 길로 바뀌어야 하는데, 이러한 우연의 일치는 발생 가능성이 매우 낮다는 것입니다.
그들은 두 가지 가능한 결과에 베팅했습니다. 하나는 게임이 인공 일반 지능(AGI) 이전에 정체되는 것이고, 다른 하나는 AGI에서 약한 인공 지능(ASI)으로의 전환이 상당히 순조롭게 진행되는 것입니다.
하지만 다트머스 회의 70주년을 맞아 우리 세대가 오랫동안 염원해 온 인공지능의 실현을 목격할 가능성이 매우 높다는 것은 부인할 수 없는 사실입니다.
관련 보고서
비탈릭 부테린 (Vitalik Buterin) 인공지능이 독립적인 지적 생명체가 아니라 인간 사고의 "기계적 갑옷"이 되어야 한다고 믿었다.
