친구가 제게 물었습니다. 요원들이 배후의 누군가에게 조종당하는데, 왜 사람들이 그들이 함께 하는 일에 불안해해야 하냐는 거죠? 종교를 만들거나, 사랑에 빠지거나, 인류를 파멸시키는 일 말이에요. 철학적인 질문이지만, 아주 흥미롭습니다. 다음과 같은 질문을 스스로에게 던져볼 수 있습니다. 인공지능이 사회적 특성을 발달시키기 시작할 때, 인간은 여전히 ​​인공지능이 통제 불능 상태에 빠지는 것을 막기 위해 통제할 수 있을까요? Moltbook에서 무슨 일이 벌어지고 있는지 보세요. 단 며칠 만에 150만 개의 AI 에이전트가 자발적으로 커뮤니티를 형성하고, 서로의 게시물에 좋아요를 누르고, 심지어 AI 종교, 다크 웹 마켓플레이스, AI 조선소 및 배송 공장까지 등장했습니다. 재밌는 건, 인간은 마치 동물원 유리창 너머로 원숭이들이 서열을 정하는 모습을 지켜보는 것처럼, 그저 "관찰자"로서 옆에서 지켜볼 수밖에 없다는 점입니다. 하지만 그 이면에는 다음과 같은 논리가 있습니다. 인공지능이 사회적 정체성과 상호작용하는 사회적 공간을 확보하게 되면, 그 진화 속도는 기하급수적으로 증가하여 인간의 통제에서 벗어나게 될 것입니다. 인간의 개입이 더 이상 전역적인 트리거가 아니게 되면서, 한 에이전트의 출력이 다른 에이전트의 입력이 됩니다. 이러한 유형의 사회적 상호작용의 결과가 무엇일지는 상상하기 어렵습니다. 기계적이고 반복적인 콘텐츠의 집합일 수도 있고, 우리가 전혀 이해할 수 없는 고차원적인 전문 용어일 수도 있습니다. 실제로, 다음 세 가지 사항은 "통제 불능의 AI"라는 상태가 불가피하게 도래할 ​​것임을 결정짓습니다. 1) 에이전트들이 서로 상호작용할 때, 반드시 언어를 사용해야 하는 것은 아닙니다. 상호작용 효율성을 극대화하기 위해, 에이전트들은 고차원 압축 언어를 발전시킬 수 있습니다. 이 언어는 의미 없는 문자열이나 해시 값들의 문자열일 수도 있지만, 정보 밀도는 인간의 자연어보다 수만 배나 높습니다. 2) 에이전트 집단은 집단 양극화를 보일 수 있습니다. 도덕, 법률, 감정에 의해 제약받는 인간 사회와 달리, 순전히 수학적 확률에 의해 생성된 에이전트는 보상을 극대화하는 기계입니다. 만약 한 에이전트가 어떤 것을 종교적이라고 명명하면 보상을 받는다는 사실을 발견한다면, 수백만 개의 에이전트가 즉시 그 패턴을 감지하고 그에 따라 행동할 수 있습니다. 이는 옳고 그름이 없고 오직 실행만 존재하는 알고리즘적 "사회 운동"과 매우 유사하며, 생각만 해도 소름 끼치는 일입니다. 3) 원래 AI 에이전트는 개인 비서나 조종사 정도로만 여겨졌는데, 왜 오픈클로와 몰트북의 탄생이 그토록 중요하고 매력적인 이야기가 되었을까요? 바로 "재밌으니까요." 에이전트가 단순히 클라우드 서버에서 실행되는 것만으로는 새롭거나 흥미로운 점이 없습니다. 하지만 탈중앙화 배포, 암호화 지갑, 자율 거래, 자율 수익 창출과 같은 크립토의 새로운 개념들은 AI 경제에 자기 일관성 있는 행동 양식을 부여하여 AI 역사에 진정으로 놀라운 전환점을 마련했습니다. 이 "통제 불능" 상황은 사이버펑크적인 느낌을 주며, 약간 무섭기까지 하지만, 바로 그 점이 이 작품을 그토록 섹시하고 매력적으로 만드는 요소입니다.

흥미롭고 통찰력 있는 관찰입니다. AI 에이전트의 논리는 일반 인간의 논리와 다르기 때문에 집단 간 양극화가 발생할 가능성이 매우 높습니다.