OpenAI 최고경영자 샘 알트만은 어제(11일) '온화한 특이점'라는 제목의 글을 발표하며 인공지능(AI)의 미래 발전에 대한 자신의 비전을 상세히 설명했습니다. 알트만은 인류가 기술적 '사건의 지평선'을 넘어섰으며 디지털 초지능 시대를 향해 나아가고 있고, 이러한 변화가 갑작스럽지 않고 평온한 방식으로 전개될 것이라고 믿습니다.
이 블로그 글에서 알트만이 제시한 핵심 관점은 다음과 같습니다:
- 현재 AI 시스템은 여러 측면에서 인간의 능력을 뛰어넘었으며, 수억 명의 사람들이 매일 중요한 작업을 수행하는 데 의존하고 있어 AI가 일상생활에 깊이 통합되었음을 보여줍니다. 그는 2025년에는 인지 작업을 수행할 수 있는 AI 에이전트가 등장할 것이며, 2026년에는 AI 시스템이 완전히 새로운 통찰력을 생성할 수 있고, 2027년에는 실제 세계의 작업을 수행하는 물리적 로봇을 볼 수 있을 것으로 예측합니다.
- 알트만은 2030년대에 지능과 에너지의 엄청난 풍요로움이 과학 발전과 생산성 도약을 촉진하여 삶의 질이 크게 향상될 것이라고 강조합니다. 그는 AI가 자체 연구를 가속화하는 재귀적 자기 개선과 자동화된 데이터 센터 및 로봇 공급망의 자기 강화 순환이 지능의 비용을 전기 비용에 근접하게 만들어 "지능이 너무 저렴해서 측정할 필요가 없는" 미래를 실현할 것이라고 지적합니다.
- 그러나 그는 AI 정렬 문제(AI가 인간의 장기적 이익에 부합하도록 보장)와 초지능의 공정한 분배와 같은 도전 과제도 인정합니다. 그는 정렬 문제를 해결한 후에는 초지능을 저렴하고 광범위하게 사용 가능하게 만드는 데 집중해야 하며, 소수의 개인이나 기업에 과도하게 집중되는 것을 피해 사회적 적응과 공정성을 촉진해야 한다고 제안합니다.
다음은 샘 알트만의 블로그 글 '온화한 특이점'의 전문입니다.
[이하 생략]온화한 특이점
일부 직업은 사라질 수 있지만 새로운 기회와 부가 출현할 것입니다
기술 발전 속도는 계속해서 가속화될 것이며, 인간의 거의 모든 것에 적응하는 능력도 계속 존재할 것이다. 일부 도전은 매우 어려울 것이다. 예를 들어 전체 직업군의 소멸과 같은 것들이 있지만, 다른 한편으로는 세계가 빠르게 더욱 풍요로워질 것이며, 우리는 이전에는 상상할 수 없었던 새로운 정책을 진지하게 고려할 수 있을 것이다. 우리는 즉시 새로운 사회 계약을 채택하지 않을 수 있지만, 수십 년 후 돌아보면 점진적인 변화가 중대한 변화로 축적될 것이다.
역사가 어떤 교훈을 준다면, 우리는 새로운 일을 하고, 새로운 것을 갈망하며, 새로운 도구를 빠르게 흡수할 것이다(산업 혁명 이후의 직업 변화는 최근의 좋은 예이다). 기대치는 높아질 것이지만, 능력도 마찬가지로 빠르게 향상될 것이며, 우리 모두는 더 나은 것을 얻게 될 것이다. 우리는 서로를 위해 점점 더 훌륭한 것들을 만들어 갈 것이다. 인간은 AI에 비해 장기적이고 중요한 이점이 있다: 우리는 타인과 그들의 생각과 행동을 본능적으로 신경 쓰지만, 기계에 대해서는 그렇지 않다.
천 년 전의 농부들이 우리 중 많은 사람들의 일을 보면 "가짜 일"이라고 말할 것이며, 우리가 충분한 음식과 상상할 수 없는 사치품을 가지고 있기 때문에 단순히 즐기기 위해 놀고 있다고 생각할 것이다. 나는 우리가 천 년 후의 일을 보고 그것들이 매우 "가짜 일"이라고 느끼기를 희망한다. 하지만 그 일을 하는 사람들에게 그 일은 매우 중요하고 만족스러울 것이라는 점에 대해서는 조금의 의심도 없다.
새로운 기적의 실현 속도는 놀라울 것이다. 오늘날 2035년에 우리가 무엇을 발견할지 상상하기 어렵다. 어쩌면 어느 해에 고에너지 물리학 문제를 해결하고 다음 해에 우주 식민지 개발을 시작할 수도 있고, 또는 어느 해에 재료 과학의 중대한 돌파구를 마련하고 다음 해에 진정한 고대역폭 뇌-기계 인터페이스를 개발할 수도 있다. 많은 사람들은 비슷한 방식으로 살기를 선택할 수 있지만, 적어도 일부 사람들은 "접속"하기로 결정할 수 있다.
미래를 전망하면 이해하기 어렵게 들린다. 하지만 실제로 경험할 때는 인상 깊지만 대처할 수 있는 것으로 느껴질 수 있다. 상대성 이론의 관점에서 특이점은 조금씩 발생하며, 융합도 천천히 진행된다. 우리는 지수적 기술 발전의 긴 호를 따라 오르고 있다. 앞을 보면 항상 가파르게 보이지만, 뒤를 돌아보면 평평해 보인다. 하지만 이는 부드러운 곡선이다(2020년을 회상해보면, 2025년에 인공일반지능(AGI)에 근접할 것이라고 말하는 것이 지금 우리가 2030년에 대해 예측하는 것보다 더 미쳐 보일 수 있으며, 지난 5년은 실제로 어떠했는지 생각해보라).
엄청난 잠재력 외에도 심각한 도전에 직면해야 한다. 우리는 기술적, 사회적 차원의 안전 문제를 해결해야 하며, 그 후에는 경제적 영향을 고려할 때 초지능에 대한 광범위한 접근 권한 분배가 매우 중요하다. 최선의 전진 경로는 다음과 같을 수 있다:
- 정렬 문제를 해결하여 AI 시스템이 장기적으로 안정적으로 학습하고 우리가 집단적으로 진정으로 원하는 방향으로 행동할 수 있도록 보장한다(소셜 미디어 피드는 정렬 실패의 예이다. 이러한 알고리즘은 당신이 계속 스크롤하도록 매우 능숙하며, 당신의 단기 선호도를 명확히 이해하지만, 뇌의 특정 메커니즘을 이용하여 장기 선호도를 무시한다).
- 그런 다음 초지능을 저렴하고 광범위하게 사용 가능하게 만들고, 어떤 개인, 기업 또는 국가에도 집중되지 않도록 집중한다. 사회는 회복력, 창의성이 있으며 빠르게 적응한다. 우리가 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 많은 실수를 저지르고 일부 일이 심각하게 잘못될 수 있지만, 우리는 빠르게 학습하고 적응할 것이며 이 기술을 통해 최대의 이익과 최소의 리스크를 실현할 수 있을 것이다. 사회가 결정해야 하는 광범위한 경계 내에서 사용자에게 상당한 자유를 제공하는 것이 매우 중요해 보인다. 세계가 이러한 광범위한 경계가 무엇인지, 그리고 집단적 정렬을 어떻게 정의할 것인지에 대해 논의하기 시작할수록 좋다.
우리(전체 산업, OpenAI만이 아니라)는 세계를 위한 뇌를 만들고 있다. 이는 매우 개인화되고 모든 사람이 쉽게 사용할 수 있을 것이다. 우리의 한계는 좋은 아이디어가 될 것이다. 오랫동안 스타트업 커뮤니티의 기술자들은 "아이디어 사람들"을 비웃어왔다. 그들은 아이디어는 있지만 팀을 찾아 실현하려는 사람들이다. 이제 그들의 시대가 곧 올 것으로 보인다.
OpenAI는 현재 많은 측면을 가지고 있지만, 무엇보다도 우리는 초지능 연구 회사이다. 우리 앞에는 많은 작업이 있지만, 앞으로의 길은 대부분 밝혀져 있으며 어두운 영역은 빠르게 사라지고 있다. 우리는 이 일을 할 수 있어 말로 표현할 수 없을 정도로 감사하게 생각한다.
지능이 측정할 필요 없이 저렴해지는 시대가 바로 눈앞에 있다. 이 말이 미치광이처럼 들릴 수 있지만, 2020년에 우리에게 오늘날의 상황까지 올 것이라고 말했다면 아마도 지금 우리가 2030년에 대해 예측하는 것보다 더 미치광이처럼 들렸을 것이다.
우리가 순조롭고, 지수적이며, 파란 없이 초지능을 향해 나아가기를 바란다.
