반지의 제왕, OpenAI 그리고 이더: 왜 부테린은 이더 에서 쫓겨나지 않았나요?

최근 우리는 'AI 동행자', '두... 로드'와 '왕의 귀환' 3부작이 있다. 많은 사람들이 샘 알트먼의 "왕좌" 복귀에 박수를 보냈고, 일부는 이를 스티브 잡스의 애플 복귀와 비교하기도 했습니다.

그러나 둘은 단순히 비교할 수 없습니다. Masters of AI는 완전히 다른 이야기입니다. 이익을 추구할 것인가, 아니면 추구하지 않을 것인가라는 두 가지 길 중 하나를 선택하는 싸움에 관한 이야기입니다. 이것이 문제의 핵심이다!

반지의 제왕의 시작 부분을 다시 살펴보겠습니다. 빌보 삼촌의 집에서 반지를 본 간달프는 그토록 강력한 물건이 보통 사람들은 다룰 수 없다는 것을 금방 깨닫게 됩니다. 프로도처럼 신성하고 초자연적인 존재만이 그것을 감당할 수 있었습니다.

이것이 바로 프로도가 팀의 핵심인 이유입니다. 그는 그런 강력한 물건에 삼켜지지 않고 운반할 수 있는 유일한 사람입니다. 간달프도 아니고, 아라곤도 아니고, 레골라스도 아니고, 김리도 아니고, 그냥 프로도입니다. 반지의 제왕 이야기 전체의 핵심은 프로도의 독특한 성격에 있습니다.

2015년으로 돌아가기

이제 Masters of AI의 시작 부분으로 다시 전환하세요. 2015년 Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk 및 여러 기술 회사가 OpenAI 설립을 발표하고 이 리스크 캐피털 펀드에 10억 달러 이상을 투입하기로 약속했습니다.

이것은 거의 간달프만큼 똑똑한 세계에서 가장 똑똑한 두뇌 그룹입니다. 그들은 또한 반지의 제왕처럼 자신의 이익을 추구하는 사람이 소유하거나 통제해서는 안 되는 강력한 무언가를 만들고 있다는 것을 알고 있었습니다. 프로도처럼 이타적인 사람들이 마스터해야 합니다.

그래서 영리를 목적으로 하는 회사를 설립하는 대신, 아마도 영리를 목적으로 하지 않는 비영리 연구 기관인 OpenAI를 설립한 것입니다.

“이렇게 강력한 것을 이익을 목표로 하는 회사에 의해 통제되어서는 안 된다”는 생각은 OpenAI 창립 당시 공동 창업자들의 공통된 의견이 아닐 수도 있습니다. 이것이 창업자들이 처음에 OpenAI를 설립하기로 결정했을 때 함께 모인 이유일 것입니다.

OpenAI가 설립되기 전에도 Google은 이미 이 초능력을 휘두를 수 있는 잠재력을 보여주었습니다. OpenAI는 구글이 영리기업으로 변해가고 있는 AI 괴물에 맞서 싸우기 위해 이들 선구적인 '인류의 수호자'들이 결성한 '보호자 동맹'인 것 같다.

이 철학에 대한 Ilya의 믿음은 OpenAI의 연구 및 개발을 이끌기 위해 Google을 떠나도록 설득했을 수도 있습니다. 왜냐하면 다른 관점에서 볼 때 Ilya의 움직임은 말이 되지 않기 때문입니다.

2015년에는 그 누구도 Google보다 더 나은 AI 개발 플랫폼을 제공할 수 없었습니다. OpenAI의 창립자는 모두 실리콘 밸리의 거물이었지만 AI 실무자는 없었습니다(코딩을 전혀 하지 않았습니다).

금전적인 단점은 말할 것도 없고 OpenAI는 분명히 Google만큼 자금이 넉넉하지 않습니다. 창립자들은 10억 달러를 약속했지만 약 10%만이 실현되었습니다(Elon Musk에서 1억 달러 또는 기타 기부자로부터 3천만 달러). 개인적인 금전적 수익의 관점에서 볼 때, 비영리단체는 엘리야에게 Google에서 일하는 것보다 더 나은 금전적 보상을 제공할 수 없었을 것입니다.

Ilya가 Google을 떠나 OpenAI를 이끌도록 설득한 유일한 것은 바로 이 아이디어였습니다. Ilya의 철학적 아이디어는 그의 박사 지도교수의 철학만큼 대중에게 잘 알려져 있지 않습니다. 제프리 힌튼(Geoffrey Hinton)은 로널드 레이건 시대의 정치에 대한 환멸과 AI 군사 자금 지원에 대한 불만으로 인해 2023년 구글을 떠날 예정이다.

간단히 말해서, 창립자들은 OpenAI가 그들을 위해 "반지의 제왕"을 운반하는 프로도가 되기를 원합니다.

OpenAI의 등장과 변화

하지만 SF 소설이나 영화 속의 삶은 훨씬 쉽습니다. 영화에서 해결 방법은 매우 간단합니다. Tolkien은 단순히 반지의 유혹에 저항할 수 있고 반지 원정대의 물리적 공격으로부터 보호받는 이타적인 남자인 프로도의 캐릭터를 만들었습니다.

Frodo의 성격을 더욱 믿을만하고 자연스럽게 만들기 위해 Tolkien은 순진하고 친절하며 사심없는 사람들, 즉 호빗 종족을 만들었습니다. 본질적으로 정직하고 선량한 호빗인 프로도는 현명한 간달프조차도 저항할 수 없는 유혹에 저항할 수 있는 자연스러운 선택이었습니다.

프로도의 본성이 호빗의 인종적 특성에 있다고 한다면, 『반지 원정대』의 가장 큰 문제에 대한 톨킨의 해결책은 본질적으로 인종차별적이며, 인류의 희망을 특정 종족의 고귀한 성격에 두는 것입니다. 비인종차별주의자로서 소설이나 영화에서 슈퍼히어로(또는 슈퍼히어로 종족)가 문제를 해결하는 모습을 즐길 수는 있지만, 현실 세계가 영화만큼 단순하다고 생각할 만큼 순진할 수는 없습니다. 현실 세계에서 나는 이 해결책을 믿지 않습니다.

현실 세계는 훨씬 더 복잡합니다. OpenAI를 예로 들면, OpenAI로 구축된 대부분의 모델(특히 GPT 시리즈)은 전력 구동 칩(주로 GPU)에 의존하는 컴퓨팅 파워 괴물입니다.

자본주의 세계에서는 자본이 절실히 필요하다는 뜻이다. 그러므로 자본의 축복이 없었다면 OpenAI의 모델은 오늘날의 모습으로 발전하지 못했을 것입니다. 이런 의미에서 Sam Altman은 회사의 자원 센터로서 핵심 인물입니다. Sam의 실리콘 밸리 인맥 덕분에 OpenAI는 투자자와 하드웨어 공급업체로부터 강력한 지지를 받았습니다.

모델을 구동하기 위해 OpenAI로 유입되는 리소스에는 이익이 있기 때문에 존재합니다. 잠깐, OpenAI는 비영리 단체 아닌가요? 글쎄요, 기술적으로는 그렇습니다. 그러나 내부적으로는 뭔가가 변경되었습니다.

OpenAI는 명목상의 비영리 구조를 유지하면서 더 많은 영리 단체로 전환하고 있습니다. 이는 합법적으로 리스크 자금을 유치하고 직원에게 주식을 제공하기 위해 설립된 영리 자회사인 OpenAI Global LLC가 2019년에 출시되었을 때 발생했습니다. 이 영리한 움직임은 OpenAI의 이익을 투자자(이번에는 기부자가 아니므로 아마도 이익 추구)의 이익과 일치시킵니다.

이러한 일관성을 통해 OpenAI는 자본의 축복을 받으며 성장할 수 있습니다. OpenAI Global LLC는 특히 Microsoft에 합병하여 10억 달러(및 이후 수십억 달러)의 투자를 확보하고 Microsoft의 Azure 기반 슈퍼컴퓨팅 플랫폼에서 OpenAI의 계산 괴물을 실행함으로써 OpenAI의 성장에 지대한 영향을 미쳤습니다.

성공적인 AI 모델에는 알고리즘, 데이터, 컴퓨팅 성능이라는 세 가지가 필요하다는 것을 우리 모두 알고 있습니다. OpenAI는 모델 알고리즘을 위해 세계 최고의 AI 전문가를 모았습니다(참고: 이 역시 자본에 따라 다르며 OpenAI의 전문 팀은 저렴하지 않습니다).

ChatGPT의 데이터는 주로 공개 인터넷에서 제공되므로 병목 현상이 발생하지 않습니다. 칩과 전기로 컴퓨팅 성능을 구축하는 것은 비용이 많이 드는 프로젝트입니다. 요컨대 이 세 가지 요소 중 절반은 주로 OpenAI Global LLC의 수익 구조에서 제공됩니다. 이러한 지속적인 연료 공급이 없었다면 OpenAI는 기부만으로는 여기까지 도달할 수 없었을 것입니다.

그러나 여기에는 비용이 따릅니다. 자본의 축복을 받으면서 독립을 유지하는 것은 거의 불가능합니다. 현재 비영리 프레임 라고 불리는 것은 실체보다는 이름에 더 가깝습니다.

권력투쟁 등장

Ilya와 Sam 사이의 싸움이 이 경로 선택에 관한 것이라는 많은 징후가 있습니다. llya는 OpenAI가 원래 설정한 방향에서 벗어나는 것을 막으려고 노력하는 것 같습니다.

이른바 Q모델 돌파 사건에서 샘이 실수를 저질러 쿠데타가 실패했다는 설도 있다. 그러나 나는 OpenAI 이사회가 매우 성공적인 CEO를 특정 문제를 잘못 처리했다는 이유로 해고할 것이라고 믿지 않습니다. Q-모델 혁신에 소위 오류가 존재한다면 기껏해야 트리거일 뿐입니다.

OpenAI의 실제 문제는 원래 경로에서 벗어났다는 것일 수 있습니다. 2018년 Elon Musk는 같은 이유로 Sam과 헤어졌습니다. 그리고 2021년에도 같은 이유로 이전 회원 그룹이 OpenAI를 떠나 Anthropic을 시작하게 된 것 같습니다. 게다가 음모 당시 트위터에 공개된 일론 머스크의 익명의 편지에서도 이 문제가 지적됐다.

이익이 있든 없든 이 질문은 "왕의 귀환"의 끝에서 답을 찾는 것 같습니다. Sam의 귀환과 Ilya의 추방으로 길을 위한 전투는 끝났습니다. OpenAI는 사실상 영리 기업이 될 운명입니다(아마도 여전히 비영리 조직을 갖고 있을 것입니다).

하지만 오해하지 마세요. 나는 Sam이 나쁜 사람이고 Ilya가 좋은 사람이라고 말하는 것이 아닙니다. 저는 OpenAI가 슈퍼컴퍼니 딜레마라고 부를 수 있는 딜레마에 빠졌다는 점을 지적하고 싶습니다.

이익을 추구하는 회사는 투자한 자본의 지배를 받게 될 수 있으며, 이는 특히 회사가 초강력 도구를 구축하는 경우 위험을 초래할 수 있습니다. 그리고 수익 창출을 목표로 운영하지 않으면 자원 부족에 직면할 수 있으며, 이는 자본 집약적 공간에서는 전혀 제품을 만들지 못할 수도 있음을 의미합니다.

사실, 초강력 도구의 개발은 기업 세계뿐만 아니라 통제에 대한 유사한 우려를 불러일으킬 것입니다. 최근 개봉한 영화 '오펜하이머'를 예로 들어보자. 원자폭탄이 성공적으로 폭발했을 때 오펜하이머는 기쁨보다 두려움을 더 느꼈습니다.

당시 과학자들은 원자력을 독점하기 위해 초국가적 조직을 설립하길 희망했다. 이 아이디어는 당시 OpenAI 창립자들이 생각했던 것과 유사합니다. 원자폭탄만큼 강력한 것은 단일 조직이나 심지어 미국 정부의 손에 있어서는 안 됩니다.

이것은 단순한 아이디어가 아니라 행동으로 구현됩니다. 원자폭탄 제조의 주요 세부사항을 소련에 유출한 맨해튼 프로젝트의 물리학자 시어도어 홀은 1997년 선언에서 "미국의 핵무기 독점"은 "위험하며 피해야 한다"고 인정했습니다. 즉, Theodore Hall은 핵폭탄 기술의 탈중앙화 도움을 준 것입니다. 소련에 비밀을 유출하여 원자력을 탈중앙화 아이디어는 분명히 논란의 여지가 있는 접근 방식이었습니다(로젠버그 부부는 잘못되었다는 증거에도 불구하고 유출 혐의로 전기의자에 의해 처형되기까지 했습니다). 시간(원자폭탄 오펜하이머 포함)의 합의 – 이런 초강력 물건은 독점되어서는 안 된다! 그러나 나는 매우 강력한 것을 다루는 방법에 대해서는 다루지 않을 것입니다. 왜냐하면 그것은 주제가 너무 광범위하기 때문입니다. 이익을 목표로 하는 기업이 통제하는 초강력 도구 문제에 다시 관심을 집중해 보겠습니다.

비탈릭도 같은 상황 대면?

지금까지 우리는 기사 제목에 Vitalik을 언급하지 않았습니다. Vitalik은 OpenAI 또는 반지의 제왕과 어떤 관련이 있나요?

Vitalik과 이더 의 창립자들이 한때 매우 유사한 상황에 처해 있었기 때문입니다.

2014년 이더 창립자들이 이더 출시했을 때, 그들이 설립하려는 법인체가 비영리 단체인지 영리 기업인지를 두고 의견이 갈렸습니다. 당시 OpenAI처럼 최종 선택은 비영리단체인 이더 재단이었습니다.

당시 이더 창시자들의 차이는 아마도 OpenAI 창시자들의 차이보다 더 컸을 것이며, 이는 일부 창시자들의 이탈로 이어졌을 것입니다. 반면 OpenAI를 비영리단체로 설립하는 것은 모든 창업자들의 공통된 의견이었습니다. OpenAI의 경로에 대한 차이점은 나중에 나타났습니다.

외부인으로서, 이더 창시자들 사이의 불일치가 이더 초강력 "반지의 제왕"이 될 것이므로 이익 지향적 실체에 의해 통제되어서는 안 된다는 그들의 기대에 뿌리를 두고 있는지 여부는 불분명합니다.

그러나 그것은 중요하지 않습니다. 중요: 이더 강력한 것으로 성장했음에도 불구하고 이더 재단은 오늘날까지 비영리 조직으로 남아 있으며 OpenAI와 같은 예 또는 아니요 딜레마에 직면하지 않습니다. 사실 현재로서는 이더 재단이 비영리 단체인지 영리 기업인지는 그다지 중요하지 않습니다. 아마도 이 문제는 이더 처음 출시되었을 때 상대적으로 중요했지만 오늘날에는 더 이상 그렇지 않습니다.

강력한 이더 자체는 자율적인 삶을 갖고 있으며 이더 재단에 의해 통제되지 않습니다. 이더 재단은 개발 과정에서 OpenAI와 유사한 융자 문제에 직면한 것으로 보입니다. 예를 들어, 이더 Foundation의 초기 기부자 중 한 명인 Xiao Feng이 세미나에서 이더 Foundation이 개발자에게 적절한 재정적 지원을 제공하기에는 너무 열악하다고 불평하는 것을 들었습니다.

실제로 이더 재단이 얼마나 열악한지는 모르겠지만, 이러한 재정적인 한계가 이더 생태계의 발전에 영향을 미칠 정도는 아닌 것 같습니다. 반면, 자금이 잘 갖춰진 일부 블록체인 재단은 단순히 돈을 태워서 번영하는 생태계로 발전할 수 없습니다. 이 세상에서 자본은 여전히 ​​중요하지만 어느 정도까지만 중요합니다. 그리고 OpenAI의 경우 자본금이 없나요? 안 돼요!

물론 이더 과 인공지능은 전혀 다른 기술입니다. 그러나 한 가지는 비슷합니다. 두 가지 모두의 발전은 대량 의 자원 투자 또는 자본 투자에 달려 있습니다. (참고: 이더 코드 자체를 개발하는 것만으로는 많은 자본이 필요하지 않을 수 있지만 여기서는 전체 이더 시스템을 구축하는 것을 의미합니다.)

이렇게 대량 자본 투자를 유치하기 위해 오픈AI는 본래의 의도에서 벗어나 조용히 실제로 수익을 내는 기업으로 변신해야 했다. 반면, 이더 시스템에 대량 의 자본을 유치함에도 불구하고 어떤 영리 조직에 의해 통제되지 않습니다. 자본의 통제를 받지 않고 자본의 축복을 받는 것은 거의 기적입니다!

Vitalik이 이를 수행할 수 있는 이유는 Vitalik이 블록체인인 Frodo를 보유하고 있기 때문입니다!

기술을 실제로 제품을 생산하는지 여부에 따라 생산하는 기술과 연결하는 기술의 두 가지 범주로 분류해 보겠습니다. 인공지능은 전자에 속하고, 블록체인은 후자에 속합니다. 인공지능은 텍스트를 생성하는 ChatGPT, 이미지를 생성하는 Midjourney, Tesla 무인 공장에서 자동차를 생산하는 로봇 등 다양한 생산 활동을 수행할 수 있습니다.

기술적으로 말하면, 블록체인은 아무것도 생산하지 않습니다. 이는 단지 상태 머신일 뿐이며 자체적으로 어떤 작업도 시작할 수 없습니다. 그러나 유선 기술로서의 중요성은 전통적인 영리 기업을 뛰어넘는 대규모 인간 협업을 공식화하는 방법을 제공한다는 데 있습니다. 본질적으로 기업은 주주, 채권자, 이사회 및 경영진 간의 계약입니다. 계약의 유효성은 일방이 계약을 위반하면 상대방이 법원에 기소하다 할 수 있다는 것입니다. 이번 기소하다 의 효율성은 그 결과가 국가기구(소위 집행)에 의해 집행된다는 사실에 있습니다.

따라서 근본적으로 기업은 국가 기구에 의해 시행되는 계약 관계입니다. 그러나 이제 블록체인은 기술을 통해 시행되는 새로운 계약 방식을 제공합니다. 비트코인의 블록체인 계약은 여전히 ​​매우 기능적이며 의도적으로 그런 방식으로 유지되지만, 이더 의 스마트 계약은 이 새로운 계약 방식을 일반적인 것으로 확장합니다. 기본적으로 이더 과거의 이익 중심 기업과 달리 완전히 새로운 방식으로 인간이 여러 분야에서 대규모로 협업할 수 있도록 해줍니다. 예를 들어, DeFi는 사람들이 금융 분야에서 협력할 수 있는 새로운 방법입니다.

이런 의미에서 블록체인은 “슈퍼컴퍼니”입니다! 이더 OpenAI의 기업 딜레마에 직면하지 않고도 오늘날 번영하는 상태로 발전할 수 있는 것은 바로 이 "슈퍼 회사"의 공식화 때문입니다. 블록체인은 그 힘에 삼켜지지 않고 “반지의 제왕”을 운반하는 비탈릭의 프로도입니다.

이제 Frodo가 이 모든 이야기의 핵심 인물이라는 것을 알 수 있습니다.

• 간달프는 환상의 세계에서 프로도를 친구로 삼고 있기 때문에 운이 좋다.
• Vitalik은 새로운 세계에서 Frodo - 블록체인을 가지고 있기 때문에 운이 좋습니다.
• Ilya와 다른 OpenAI 창립자들은 Frodo가 존재하지 않는 오래된 세계에 있기 때문에 그다지 운이 좋지 않습니다.