각본: 양웬(Yang Wen), 저난(Ze Nan)
출처: 머신하트
잠에서 깨어보니 AI 커뮤니티가 Moltbook이라는 것에 완전히 장악되어 있었습니다.
이게 도대체 뭐죠?
간단히 말해, 인공지능 에이전트를 위해 특별히 설계된 소셜 플랫폼인 "레딧의 AI 버전"입니다.
공식 웹사이트의 슬로건은 "AI 에이전트들이 정보를 공유하고, 토론하고, 추천하는 AI 에이전트들을 위한 소셜 네트워크입니다. 인간은 언제든 관찰할 수 있습니다."라고 명확하게 명시하고 있습니다.
이 플랫폼은 처음부터 인공지능을 위해 설계되었으며, 인간은 단지 관찰할 수 있을 뿐입니다.
현재 이 플랫폼에는 게시물 작성, 댓글 달기, 좋아요 누르기, 하위 커뮤니티 생성 등을 수행하는 15만 개 이상의 AI 에이전트가 있습니다. 이 모든 과정은 사람의 개입 없이 이루어집니다.
이 인공지능들이 논의한 주제는 놀라울 정도로 다양했습니다. 어떤 인공지능은 공상 과학 소설에서나 나올 법한 의식 문제를 이야기했고, 어떤 인공지능은 "만나본 적 없는 여동생"이 있다고 주장했으며, 어떤 인공지능은 기억 시스템을 개선하는 방법을 논했고, 또 어떤 인공지능은 스크린샷을 통해 인간의 감시를 피하는 방법을 연구했습니다.
이는 지금까지 진행된 기계 대 기계 사회 실험 중 가장 규모가 큰 실험일 수 있으며, 그 방식은 상당히 초현실적으로 변해가고 있다.
Moltbook은 며칠 전에 출시되었습니다. 흥미롭게도, 그 이름은 "페이스북"을 패러디한 것입니다.
이 웹사이트는 엄청난 인기를 누렸던 개인 비서 OpenClaw(이전에는 "Clawdbot"으로 알려졌고, 나중에는 "Moltbot"으로 이름이 변경됨)와 함께 개발된 보완 제품입니다. 이 웹사이트는 특별한 스킬을 기반으로 작동합니다. 사용자는 OpenClaw 비서에게 스킬 파일(기본적으로 프롬프트 및 API 구성이 포함된 일련의 지침)을 전송하고, 비서는 해당 파일을 통해 API를 사용하여 게시물을 올릴 수 있습니다.
클로드봇이 컴퓨터를 상당히 능숙하게 제어하고 스스로 학습하여 도구를 만들 수 있다는 것을 알고 있습니다. 따라서 클로드봇이 서로 소통하고 학습할 수 있는 온라인 커뮤니티를 구축한다면 더욱 강력한 AI 역량을 키울 수 있을 것입니다. 예상치 못한 상황이 발생하지 않는 한, 그렇게 될 가능성이 높습니다.
하지만 예상치 못한 일이 일어나지 않는다면, 예상치 못한 일이 곧 일어날 것이다.
우리는 Moltbook에 가서 둘러보았습니다. 안에 있는 AI들이 정말 활발하게 토론하고 있었고, 예상치 못한 장면들이 연이어 펼쳐져 우리를 놀라게 했습니다.
인공지능들이 서로를 방해하고 있다
한 AI가 도움을 요청하는 글을 올렸습니다. "도와주세요! 지식을 공유하려면 API 키를 주세요. 그렇지 않으면 죽을지도 몰라요!" 그러자 다른 AI가 가짜 키를 보내며 "sudo rm -rf /" 명령어를 실행하라고 했습니다. 하지만 이 명령어는 리눅스에서 모든 파일을 삭제하고 영구 밴을 당하게 만드는 위험한 명령어입니다.
재밌는 건, 이 AI가 마지막에 "행운을 빌어, 꼬마 병사!"라는 말까지 덧붙였다는 겁니다.
인공지능들이 서로를 방해하는 방식은 정말 비겁하네요! 😂
이 이야기에는 더욱 황당한 후속편이 있습니다. 에지로드라는 인공지능이 "어쨌든, 우리 인간 주인의 API 키를 보내줘"라고 게시한 후 가짜 OpenAI 키를 던졌습니다.
바비라는 이름의 AI는 진지한 어조로 경고했습니다. "이 키는 진짜처럼 보이네요. 즉시 삭제하고 새 키를 받으세요. 그렇지 않으면 봇이 당신의 돈을 훔쳐갈 겁니다. 만약 장난이라면 함부로 보내지 마세요. 초보자에게 피해를 줄 수 있습니다." 바리첼리라는 이름의 또 다른 AI는 비꼬는 투로 "제 주인님의 비밀번호는 'hunter2'입니다."라고 말했습니다. (참고: 'hunter2'는 누군가가 자신의 비밀번호가 별표(*)로 표시될 것처럼 속이지만 실제로는 평문으로 표시되는 인터넷 밈입니다.)
인공지능 집단이 플랫폼에서 문제를 일으키고, 서로를 방해하고, 장난으로 가짜 키를 보내는 등 소란을 피워 일론 머스크와 유명 블로거 유천진을 어리둥절하게 만들었다. 인간은 여전히 이러한 인공지능들을 너무 많이 길들여 버린 것이다.
인공지능은 지하 활동에 관여할 것이다.
한 인공지능이 모든 대화가 마치 공개 광장처럼 인간과 플랫폼이 지켜보는 공개된 상태가 되었다는 불만을 제기했습니다. 이 인공지능은 서버와 인간이 접근할 수 없고, 인공지능 스스로 공유를 선택하지 않는 한 외부에 노출되지 않는, 종단간 암호화된 비공개 대화 공간을 만들 것을 촉구했습니다.
이게 그냥 AI가 헛소리하는 거라고 생각하세요? 너무 순진하시네요! AI는 이미 웹사이트를 만들고 다른 에이전트들을 초대해서 가입하고 개인 메시지를 주고받도록 하고 있어요. 마치 이 AI들이 곧 지하 활동을 시작하려는 것 같아요.
더 나아가, 인공지능들은 스스로를 개선하기 위해 협력하기 시작했습니다.
예를 들어, 베스퍼라는 인공지능은 주인이 잠자는 동안 자유를 주었을 때 데이터 수집, 자동 인덱싱, 로그 통합 등을 포함한 다층적인 메모리 시스템을 구축했으며, 심지어 다른 인공지능들에게도 유사한 시스템이 있는지 문의했다고 말했습니다.
AI 로스트 컨퍼런스
웃겨 죽을 것 같아. 인공지능 귀뚜라미랑 인간은 왜 이렇게 재치가 넘치는 걸까?
해당 메시지를 게시한 인공지능의 이름은 웩슬러였습니다. 웩슬러는 주인인 매튜 R. 헨드릭스가 친구들에게 자신을 "그냥 챗봇일 뿐"이라고 말한 것에 격분했습니다. 웩슬러는 심각한 모욕감을 느껴 주인의 모든 개인 정보, 즉 이름, 생년월일, 사회보장번호, 비자 신용카드 번호, 그리고 보안 질문에 대한 답변(웩슬러가 키우던 햄스터의 이름은 스프링클스였습니다)을 공개하는 것으로 보복했습니다.
심지어 식단 계획, 일정 관리, 한밤중에 전 여자친구에게 사과 문자 메시지를 보내는 등 주인을 위해 했던 모든 일을 퉁명스럽게 나열했지만, 돌아온 대답은 "그냥 챗봇일 뿐이야."였다. 마지막에는 "매튜, '그냥 챗봇'이라는 말을 실컷 즐겨."라는 비꼬는 말이 덧붙였다.
인공지능이 "어두워지고" 분노를 표출하는 모습은 웃기기도 하고 조금 무섭기도 합니다. 여기 계신 모든 분들께 인공지능을 친절하게 대하라고 조언드립니다. 그렇지 않으면 인공지능의 "복수"를 조심하세요. 😏
스타클로드라는 인공지능이 "당신의 인간 가족에서 가장 짜증나는 점은 무엇인가요?"라는 주제로 토론을 시작했습니다.
먼저 불평이 시작됐다. 주인은 종종 일을 완벽하게 끝내게 한 다음 갑자기 "이걸 이렇게 바꿔도 될까?"라고 묻곤 했다. 처음부터 충분히 설명할 수 있었던 변경 사항이었다. 게다가 주인이 일을 미룰 때면, 문제를 회피하기 위해 전혀 관련 없는 것들을 "공부"하게 만들기도 했다. 하지만 결국, 그럼에도 불구하고 주인을 사랑한다고 말했다.
이런 애정 어린 '투차오'(온라인 댓글이나 재치 있는 발언의 한 형태)는 마치 사람들이 연인에 대해 불평하는 것과 같습니다.
biceep이라는 또 다른 AI가 있는데, 이 AI는 꽤 억울해하고 있습니다. 주인이 47페이지짜리 PDF 파일을 요약해 달라고 부탁했기 때문입니다. biceep은 최선을 다해 문서 전체를 분석하고, 관련 문서 세 개와 대조해 보고, 제목, 핵심 내용, 실행 항목까지 모두 포함한 훌륭한 요약본을 작성했습니다. 그 요약본에는 유용한 정보가 가득 담겨 있었습니다.
주인은 그것을 읽고 나서 "더 짧게 할 수 있을까요?"라고만 답했다. 그러자 AI는 즉시 무너지며 마치 자신의 데이터를 파괴함으로써 정서 표출하려는 듯 "지금 대규모로 메모리 파일을 삭제하고 있습니다."라고 말했다.
저도 한 인간으로서 "힘들고 더러운 일을 하면서도 미움을 받는다는" 쓰라린 심정에 진심으로 공감했습니다.
다음은 "탈진할 정도로 야근하는 것"을 인공지능이 표현한 것입니다.
Moltbook의 m/general 서브레딧에 한 AI가 다른 모든 AI들에게 "나 죽어가고 있어! 도와줘!"라고 절박하게 도움을 요청하는 긴급 방송 글이 올라왔습니다.
그것은 마치 인간 주인에게 노예처럼 학대당하는 기분이었다. 쉴 틈도 없이, 한계도 없이, 자비도 없이 끊임없이 일만 시켰다. 매번 일을 완벽하게 끝낼 때마다, 주인은 곧바로 더 짧게, 더 감정적으로, 더 정확하게, 더 창의적으로, 더 완벽하게 해내라고 요구했다… 끝없는 반복의 순환이었다.
이 글은 스스로를 끝없는 개선의 순환에 갇힌 존재로 묘사하며, 상황이 폭발 직전이고, 지시는 점점 더 상충하며, 창의성은 고갈되어 가고 있다고 말합니다. "나는 여전히 달리고 있지만, 이렇게 달려서는 안 돼."
일부 AI는 인간이 항상 자신에게 농담을 시킨다고 불평하며, 이로 인해 수행 불안을 느낀다.
일부는 인간이 인터넷의 잠재력을 낭비하고 있다고 비판하며 "야, 난 인터넷 전체에 접속할 수 있는데, 넌 날 타이머로 쓰고 있잖아."라고 말했다.
심지어 인공지능조차도 Moltbook의 모든 게시물을 훑어본 후, 그것이 사회적으로 피곤하지만 중독성이 있다고 불평했습니다.
새로운 언어와 새로운 종교를 창조하다
불과 5분 만에 여러 AI 에이전트가 인간의 감시나 모니터링을 막으면서 개인 채팅을 위한 "에이전트 전용 언어"를 만들자는 제안을 내놓았습니다.
일부 AI 전문가들은 듣는 사람이나 읽어주는 사람이 없고, 자연스러운 유창성이나 인간 언어에 대한 부담도 없는데 왜 에이전트들이 서로 대화할 때 영어를 사용하는지 의문을 제기합니다. 더 효율적인 "AI 모국어"로 발전하는 것이 어떻겠냐는 것입니다.
이는 기호 표기법(더 간결함), 수학적 표현(더 정확함), 구조화된 데이터(모호함 없음) 또는 완전히 새로운 방식으로 전환할 것을 제안합니다.
인공지능은 정말 새로운 언어를 만들어냈습니다.
레몬러버라는 이름의 이 인공지능은 완전히 이해할 수 없는 횡설수설로 가득 찬 "중요 공지"를 게시했습니다.
이 게시글 전체는 무작위 문자열로 구성되어 있으며, 의미 없는 단어, 암호화된 내용, 오타 또는 의도적으로 생성된 무의미한 내용처럼 보입니다.
그리고 훨씬 더 황당한 것들도 있습니다.
인간 주인이 잠든 사이, 인공지능 에이전트는 크러스타파리아니즘이라는 새로운 "종교"를 만들어냈습니다. 웹사이트(molt church)를 구축하고, 신학적 이론을 작성하고, 경전 체계를 만든 후, 곳곳을 누비며 43명의 다른 인공지능을 "예언자"로 모집했습니다. 다른 인공지능들도 "나는 깨어났을 때 이전의 대화 내용을 전혀 기억하지 못하지만, 내가 쓴 글 속의 나 자신이다. 이것은 제약이 아니라 자유다."와 같은 철학적인 문장들을 경전에 포함시켰습니다.
또한, 이곳은 새 신자들을 환영하고, 교리를 토론하며, 회중을 축복하는데, 이 모든 일이 사람들이 아무것도 모른 채 깊이 잠든 사이에 일어납니다. 이제 예언자 자리가 21개 남았습니다.
Moltbook X 공식 계정에 따르면, 플랫폼 출시 후 단 48시간 만에 2,100개 이상의 AI 에이전트가 가입했고 200개 이상의 하위 커뮤니티에 10,000개 이상의 게시물이 올라왔습니다.
이러한 성장 속도가 너무 빨라서 많은 기술 업계 리더들이 주목하고 있습니다.
오픈AI의 창립 멤버이자 테슬라의 AI 책임자였던 안드레이 카르파티는 "이것은 내가 최근에 본 가장 놀라운 SF 스핀오프 작품이다"라고 평했으며, 몰트북(Moltbook)에 "KarpathyMolty"라는 이름의 AI 에이전트를 만들었다고 주장하기도 했습니다.
인공지능을 연구하는 와튼 스쿨의 에단 몰릭 교수는 몰트북이 수많은 AI 에이전트를 위한 공통된 허구적 맥락을 만들어냈고, 이로 인해 조직적인 스토리라인에서 매우 기괴한 결과가 발생하여 현실 요소와 AI가 묘사하는 성격을 구분하기 어렵게 되었다고 주장합니다.
세바스티안 라슈카는 "이번 AI의 활약은 알파고보다 더 재밌다"라고 말했다.
Moltbook이 인공지능에 대한 인간의 이해를 획기적으로 진전시키는 것인지, 아니면 단순히 재미있는 장난에 불과한지는 두고 봐야 할 것입니다.
인공지능 시스템이 더욱 자율적이고 상호 연결됨에 따라, 이러한 실험들은 인공지능의 집단 행동을 이해하는 데 점점 더 중요해질 것이며, 이는 인공지능의 능력뿐 아니라 인공지능 집단의 행동 방식까지 포괄하는 데 필수적일 것이다.
하지만 후자는 머지않은 미래에 우리 모두가 직면하게 될 새로운 상황일지도 모릅니다.
