이번 주 기술계의 가장 영향력 있는 두 목소리가 인공지능 개발에 대한 대조적인 비전을 제시하며, 혁신과 안전 사이의 갈등이 커지고 있음을 강조했습니다.
CEO 샘 알트만은 일요일 저녁 자사의 궤적에 대한 블로그 게시물에서 OpenAI가 일반 인공지능(AGI)을 향해 달려가면서 주간 활성 사용자 수를 100만 명에서 3억 명으로 3배 늘렸다고 밝혔습니다.
"우리는 이제 전통적으로 이해해 온 AGI를 구축하는 방법을 알고 있다고 확신한다"고 알트만은 말했으며, 2025년에는 AI 에이전트가 "workforce에 합류"하고 "기업의 생산성을 크게 변화시킬" 수 있다고 주장했습니다.
알트만은 OpenAI가 단순한 AI 에이전트와 AGI를 넘어서 "진정한 의미의 초지능"을 개발하기 시작했다고 말했습니다.
AGI 또는 초지능 개발의 시기는 불분명합니다. OpenAI는 즉시 의견 요청에 응답하지 않았습니다.
그러나 일요일 몇 시간 전, 이더리움(ETH) 공동 창립자 비탈릭 부테린은 블록체인 기술을 사용하여 첨단 AI 시스템에 대한 글로벌 안전장치 메커니즘을 만들 것을 제안했습니다. 여기에는 경고 징후가 나타나면 산업 규모의 AI 운영을 일시적으로 제한할 수 있는 "소프트 일시 중지" 기능이 포함됩니다.
부테린은 여기서 "d/acc" 또는 분산/방어적 가속화에 대해 언급했습니다. 가장 단순하게 말하면, d/acc는 e/acc, 즉 효과적인 가속화의 변형으로, 이는 a16z의 마크 안드리센 등 실리콘밸리의 저명한 인사들이 주장하는 철학적 운동입니다.
부테린의 d/acc도 기술 진보를 지지하지만 안전성과 인간의 주체성을 우선시합니다. "성장을 위해서는 어떤 비용도 지불할 수 있다"는 입장의 e/acc와 달리, d/acc는 방어적 역량 구축에 초점을 맞추고 있습니다.
"d/acc는 암호화폐의 근본 가치(탈중앙화, 검열 저항, 개방형 글로벌 경제 및 사회)를 다른 기술 분야에 확장한 것"이라고 부테린은 썼습니다.
지난 1년 동안 d/acc가 어떻게 발전했는지 돌아보며, 부테린은 영지식 증명과 같은 기존 암호화폐 메커니즘을 사용하여 AGI와 초지능 시스템에 대한 보다 신중한 접근법을 구현할 수 있다고 썼습니다.
부테린의 제안에 따르면, 주요 AI 컴퓨터는 계속 작동하기 위해 3개의 국제 그룹으로부터 매주 승인을 받아야 합니다.
"서명은 장치 독립적이어야 하며(필요한 경우 블록체인에 게시되었다는 영지식 증명을 요구할 수도 있음), 따라서 전부 또는 전무가 될 것입니다. 다른 모든 장치를 승인하지 않고 한 장치만 계속 작동시키는 것은 실용적으로 불가능할 것"이라고 부테린은 설명했습니다.
이 시스템은 승인된 모든 컴퓨터가 작동하거나 아무도 작동하지 않는 마스터 스위치와 같이 작동하여 선별적인 집행을 방지할 것입니다.
"그러한 중요한 순간이 올 때까지는 소프트 일시 중지 기능을 가지고 있다는 것만으로도 개발자에게 큰 해가 되지 않을 것"이라고 부테린은 설명하며, 이 시스템을 재앙적 시나리오에 대한 보험 형태로 설명했습니다.
어쨌든 2023년 OpenAI의 폭발적인 성장, 즉 2년 만에 주간 사용자 수가 1억 명에서 3억 명으로 늘어난 것은 AI 채택이 빠르게 진행되고 있음을 보여줍니다.
독립 연구소에서 주요 기술 기업으로 성장한 OpenAI에 대해 알트만은 "이 새로운 기술을 중심으로 거의 처음부터 회사를 구축하는 것의 어려움"을 인정했습니다.
이러한 제안들은 AI 개발 관리에 대한 업계 전반의 논쟁을 반영합니다. 옹호자들은 이전에 어떤 글로벌 통제 시스템을 구현하려면 주요 AI 개발자, 정부, 암호화폐 부문 간의 전례 없는 협력이 필요할 것이라고 주장했습니다.
"1년의 '전시 모드'는 안일한 상태에서의 100년 동안의 작업보다 쉽게 가치가 있을 수 있습니다. 사람들을 제한해야 한다면 모두가 평등한 입장에서 제한하고 그것을 조직하기 위해 실제로 협력하는 것이 더 나은 것 같습니다. 한 당사자가 다른 모든 사람을 지배하려 하는 것보다는 말이죠."라고 부테린은 썼습니다.
