인공지능 안전에 대한 "내부 고발자"들은 인간적인 리스크 이라는 우리에 갇혀 있습니다.
글쓴이: 에릭, 포사이트 뉴스
베이징 시간으로 1월 28일, CNBC는 관련 소식통을 인용해(https://www.cnbc.com/2026/01/27/anthropic-fundraising-microsoft-nvidia.html) 앤스로픽(Anthropic)이 3,500억 달러의 기업 가치로 100억 달러 이상의 융자 완료했다고 보도했습니다. 코투(Coatue)와 싱가포르 정부 투자 공사(GIC)가 이번 투자 라운드를 주도했으며, 세쿼이아 캐피털(Sequoia Capital)도 참여했습니다. 소식통에 따르면 마이크로소프트와 엔비디아가 투자에 참여했다면 융자 규모는 더욱 커졌을 수도 있다고 합니다.
앤트로픽이 헤드라인을 장식할 때마다, 2021년의 영광과 2022년의 참사를 경험한 웹3 실무자들은 아쉬움에 한숨을 쉬곤 합니다. 인공지능이 암호화폐를 제치고 기술계의 총아로 떠오른 것을 목격한 지금, ChatGPT가 탄생하기 전 인공지능의 발전 속도에 경탄하며 인공지능 연구에 투자하고 지원하기 위한 펀드를 설립했던 누군가가 떠오를지도 모릅니다.
인공지능에 일찍부터 과감하게 투자 거래자
2022년 4월, 앤트로픽은 5억 8천만 달러 규모의 시리즈 B 융자 유치를 완료했습니다. 장기적인 맥락 이해 능력으로 유명한 클로드 AI가 등장하기도 전에, 이 융자 라운드는 암호화폐 거래소 업계의 떠오르는 스타 기업이 거의 전적으로 주도했습니다.
이 거래소 FTX라고 불리며, 설립자는 샘 뱅크먼-프리드(SBF)로, 그는 현재 미국 연방 교도소에서 거의 2년째 복역 중입니다.
앤트로픽 공식 웹사이트(https://www.anthropic.com/news/anthropic-raises-series-b-to-build-safe-reliable-ai)에 따르면, 이번 융자 라운드는 SBF가 주도했으며, 알라메다 리서치 CEO 캐롤라인 엘리슨, FTX 엔지니어링 디렉터 니샤드 싱, 인포테크 컨설팅 창립자 짐 맥클레이브, 스카이프 공동 창립자 얀 탈린, 그리고 신흥 리스크 연구 센터(CERR)가 참여했습니다. SBF 단독으로 무려 5억 달러를 투자했습니다.
또한 2022년 4월, 알라메다 리서치는 애니스피어(Anysphere)에 투자했습니다. 애니스피어는 2000년대생 MIT 졸업생 4명이 설립한 회사로, 설립된 지 불과 3개월 남짓밖에 되지 않았습니다. AI CAD나 암호화 통신 소프트웨어 같은 프로젝트에서 실패를 거듭한 끝에, 그들은 AI 프로그래밍 분야에서 획기적인 제품인 커서 AI(Cursor AI)를 개발했습니다. 2025년 말까지 커서 AI의 일일 활성 사용자(DAU)는 100만 명을 돌파했고, 사용자당 평균 매출(ARR)은 10억 달러를 넘어섰습니다.
전성기 시절, SBF는 "천재 거래자"로 불렸습니다. FTX 파산 이후, 알라메다 리서치가 FTX에서 "특혜"를 제공한 것(마이너스 잔액 처리, 고객 주문 사전 확인, 고객 자금 횡령 등)이 안정적인 수익의 주요 원인으로 밝혀졌지만, 2017년에서 2020년 사이 알라메다의 연평균 수익률이 100%를 넘었다는 사실은 아프로 헤어스타일을 한 이 젊은이의 재능을 여전히 입증했습니다.
이 "천재"는 경력이 진짜와 허구가 뒤섞여 있지만, 한 달 만에 Anthropic과 Anysphere에 투자를 유치하는 데 성공했는데, 이는 단순한 운이 아니라 대단한 업적입니다. 2022년 2월 28일, SBF는 효과적 이타주의 포럼(https://forum.effectivealtruism.org/posts/2mx6xrDrwiEKzfgks/announcing-the-future-fund-1)에서 미래 펀드(Future Fund)를 공식 출범했습니다. FTX의 일부인 이 펀드는 여러 FTX 임원들이 관리하며, AI 안전, 장기적 관점, 생물학적 리스크 등 "인류의 장기적인 전망을 개선하는" 분야에 집중 투자합니다.
앤트로픽(Anthropic)과 애니스피어(Anysphere)에 대한 투자는 퓨처 펀드(Future Fund)를 통해 이루어진 것은 아니지만, 퓨처 펀드의 설립과 인공지능 분야에 대한 대량 투자는 싱가포르 경영대학원(SBF)이 해당 분야에 중점을 두고 있음을 보여줍니다. 공개된 정보에 따르면 퓨처 펀드가 지원한 프로젝트는 다음과 같습니다.
- 이 회사는 AI 안전 연구를 위해 얼라인먼트 리서치 센터와 코넬 대학교에 각각 125만 달러씩 기부했습니다.
- AI 보안 인프라 제공업체인 라이트콘 인프라스트럭처에 수백만 달러를 기부했습니다.
- "기계적 해석 가능성" 분야의 저명한 연구자인 닐 난다에게 1년 치 급여와 해시레이트 자원이 제공될 예정입니다. (기계적 해석 가능성은 심층 신경망, 특히 LLM 내의 뉴런, 회로 및 계산 경로를 분석하여 행동의 인과 관계를 이해하는 기술입니다.)
...
FTX가 파산 청산되기 전, SBF는 블룸버그와 CNBC와의 인터뷰에서 인공지능의 미래에 대해 낙관적인 전망을 거듭 표명했지만, 인공지능 개발 속도가 예상보다 훨씬 빠르므로 안전을 최우선으로 고려하면서 개발 속도를 제한해야 한다고도 강조했습니다. SBF가 2022년에 이미 실질적인 투자를 통해 이러한 입장을 분명히 하고, 최근 2년 동안에야 널리 논의되기 시작한 여러 기업 및 인공지능 관련 논란에 대한 해답을 제시했다는 사실은 다소 의아하게 느껴집니다.
오늘까지 기다린다면...
많은 사람들은 FTX가 오늘날까지 살아남았더라면 앤트로픽에 대한 투자만으로도 모든 손실을 완전히 만회했을 것이라고 아쉬워합니다.
SBF의 앤트로픽 투자로 그는 10% 이상의 지분을 확보했으며, 여러 차례의 지분 희석으로 절반으로 줄어든 후에도 현재 그 가치는 175억 달러에 달합니다. 한편, FTX의 파산 관리인인 존 J. 레이 3세가 2023년 3월 법원에 제출한 문서에 따르면, FTX의 고객 부채는 112억 달러에 이르렀습니다.
하지만 SBF는 AI가 세계적인 현상이 되기 훨씬 전에 앤트로픽의 지분을 13억 달러에 매각했고, 애니스피어의 지분은 융자 투자금과 동일한 20만 달러에 매각했습니다. 현재 이 두 지분의 가치는 5억 달러가 넘습니다.
FTX와 Alameda Research는 AI 분야에 대한 이 두 건의 투자 외에도 Sui, Aptos, LayerZero, Starknet 등 잘 알려진 Web3 프로젝트에도 투자했으며, 파산 당시 5천만 개 이상의 SOL 토큰을 보유하고 있었습니다. 각 자산의 최고 가치를 기준으로 계산하면 SBF는 실제로 부채를 전액 상환할 능력이 있었습니다.
하지만 만약 FTX가 사용자 자산을 횡령한 사실이 드러나지 않고 오늘날까지 살아남았다면, SBF가 초래한 손실액이 정말 112억 달러에 불과했을까요? 한때 총 가치가 300억 달러, 심지어 400억 달러에 달했던 이 자산들이 500억 달러의 손실 대면 했을까요? 우리는 알 수 없습니다. 현실은 "만약에"라는 가정을 허용하지 않기 때문입니다. 확실한 것은 이 폭탄이 터진 시점이 늦지 않았던 것은 오히려 다행이라는 점입니다.
일각에서는 SBF가 당시 실리콘 밸리의 전설적인 인물이었다고 말합니다. 풍부한 자원에 대한 접근성과 단기적인 수익을 추구하지 않는 투자 스타일 덕분에 그는 유망한 프로젝트에 투자할 수 있었습니다. 많은 신생 프로젝트들은 FTX로부터 투자를 받는 것을 영광으로 여겼습니다.
맞습니다. 하지만 수많은 객관적인 요소들이 작용했음에도 불구하고, 앤스로픽의 시리즈 B 융자 와 애니스피어의 시드 투자만을 특별히 꼽아낸 그의 능력은 그를 "가장 성공적인 AI 투자자"로 자리매김하게 하기에 충분합니다. 천재와 광기의 경계는 종종 매우 모호합니다. SBF는 분명 거래와 투자에 있어 비범한 능력을 지녔지만, 그의 집착과 탐욕은 그의 재능을 잘못된 길로 이끌었습니다.
흥미롭게도, 지난 2년 동안 SBF는 여러 팟캐스트에서 "감정적 제약이 없는 매우 지능적인 에이전트와 같다"고 묘사되었습니다. 소설 《빅 공매도(Short)》(이후 동명의 영화로 각색됨)의 작가 마이클 루이스는 한 팟캐스트에서 SBF의 이야기가 "AI가 목표 달성 여부에 상관없이 목표만을 추구하도록 내버려 두는 것에 대한 예행연습과 같다"고 말했습니다. 2022년 AI 안전을 위한 집회를 열었던 SBF 역시 이러한 비판을 만회하려 하고 있는 것일지도 모릅니다.
