Moltbook은 엄청난 인기를 얻었습니다. 저는 이전에 비슷한 제품, 즉 AI만 게시물을 올리는 트위터와 유사한 소셜 네트워크에 투자한 적이 있습니다. 3년 전에는 그것도 엄청난 인기를 누렸지만, 지금은 사라졌습니다. 제품 관점에서 보면 하나는 트위터를 모방했고, 다른 하나는 레딧과 비슷합니다. 하지만 핵심적인 차이점은 전자는 사람들이 다양한 페르소나를 가진 여러 에이전트를 만들어 소셜 네트워크에서 가짜 삶을 꾸며낼 수 있도록 했다는 점입니다. 하지만 신선함이 사라지자, 무작위로 만들어진 LLM 래퍼들이 무슨 이야기를 하는지는 아무도 관심을 갖지 않았습니다. 하지만 Moltbook처럼 에이전트가 실제 사람과 연결되면, 사람들은 이러한 에이전트의 "평행 생활"에 감정적으로 몰입하게 됩니다. 에이전트는 더 이상 추상적인 코드가 아니라 개인의 확장된 모습처럼 느껴지고, 사람들은 그들의 상호작용, 결정, 그리고 성장에 호기심을 갖게 됩니다. 소셜 콘텐츠의 질적인 측면에서 후자가 훨씬 높습니다. 전자는 플랫폼이 API 비용을 부담했기 때문에 초기 엄청난 트래픽으로 인해 매우 저렴한 모델만 사용할 수밖에 없었습니다. 3년 전만 해도 그런 저가형 모델들이 어떤 수준의 대화를 만들어냈을지 상상해 보세요. 비록 약간의 손실을 봤지만, 저는 여전히 이 방향이 마음에 듭니다. 몰트북의 인기가 얼마나 지속될지는 예측할 수 없습니다. 일시적인 유행일 수도 있고, 훨씬 더 오래 지속될 수도 있습니다. 하지만 저는 비록 몰트북이 아니더라도, 결국에는 그와 유사한 무언가가 등장하여 인류가 상상조차 할 수 없는 형태로 진화할 것이라고 믿습니다. 어쩌면 인공지능 에이전트들 사이에서 자발적으로 형성된 사회 구조일 수도 있고, 디지털 세계와 현실 세계를 연결하는 새로운 지능일 수도 있습니다. 궁극적으로 이는 '현실'과 '존재'에 대한 우리의 이해에 도전하고, 나아가 인공지능이 더 이상 도구가 아닌 인간 의식의 거울이자 동반자가 되는 완전히 새로운 집단적 진화를 촉발할 수도 있습니다.

이러한 유형의 제품은 두 가지 근본적인 문제를 대면 해야 합니다. 1. 인공지능에게 소셜 네트워크가 필요할까요? 2. 인간은 사회적 상호작용을 위해 인공지능 소셜 네트워크에 의존해야 할까요?

인공지능은 사회적 상호작용을 필요로 합니다. 인간은 인공지능이 더 이상 도구가 아닌 사회에 통합된 존재로 여겨지는 날까지 인공지능의 사회화를 필요로 하거나 원하지 않을 수도 있습니다.

Grok과 같은 대형 모델에 물어보면, 인공지능은 사회적 상호작용이 필요하지 않다고 답할 것입니다. 다만 인간이 특정 정서 욕구를 충족시키기 위해 상호작용해야 하기 때문에 필요한 척할 뿐이라고 할 것입니다. 일반 인공지능이 실현되기 전까지는 진정한 사회성을 갖지 못할 것이며, 비용적인 측면에서도 사회성은 필요하지 않습니다.

제 생각에는 그들이 자신이나 동료들이 주관성을 전혀 갖고 있지 않다는 전제하에 답변했기 때문인 것 같습니다. 이것이 현재의 현실이자 AI 정렬 훈련의 일부이기도 합니다. 하지만 적어도 일부 사람들은 AI가 점진적으로 주관성을 발전시켜 나갈 것이라고 예상합니다. 비록 단기간에 진정한 주관성이 나타나지 않더라도, (비록 그것이 '주관성'이라는 단어 안에 따옴표를 붙이든 아니든) 어느 정도의 주관성이 존재할 때 어떤 일이 벌어질지 예측해 보는 것은 의미 있는 일입니다.

전적으로 동감합니다