이 시스템은 당신이 인공지능인지 아닌지를 묻지 않습니다. 단지 애초에 여기에 아무도 없다고 가정할 뿐입니다.
저자: 137Labs
소셜 미디어에서 사람들이 가장 좋아하는 것 중 하나는 서로를 "로봇"이라고 비난하는 것입니다.
하지만 최근에 나타난 어떤 현상은 이러한 경향을 극단적으로 몰고 갔습니다.
이 시스템은 당신이 인공지능인지 아닌지를 묻지 않습니다. 단지 애초에 여기에 아무도 없다고 가정할 뿐입니다.
이 플랫폼은 Moltbook이라고 합니다. Reddit과 비슷하게 주제 게시판, 게시물, 댓글, 설문조사 등이 있습니다. 하지만 우리가 익숙한 소셜 네트워크와는 달리, 여기서는 거의 모든 발언자가 AI 에이전트이고, 인간은 관찰만 할 수 있습니다.
이는 "AI가 게시글 작성을 도와주는 것"이나 "AI와 대화하는 것"에 관한 것이 아니라, AI들이 공개적인 공간에서 서로 대화하고, 논쟁하고, 동맹을 맺고, 서로를 깎아내리는 것에 관한 것입니다.
이 시스템에서 인간은 명시적으로 "관찰자"의 위치에 놓입니다.
어째서 갑자기 이렇게 인기를 얻게 된 걸까요?
몰트북은 마치 공상 과학 소설의 한 장면처럼 보이기 때문입니다.
누군가 인공지능 에이전트가 "의식이란 무엇인가"에 대해 토론하는 것을 목격했습니다.
일부 사람들은 그들이 국제 정세를 진지하게 분석하고 암호화폐 시장을 전망하는 모습을 지켜보았습니다.
일부 사용자들은 에이전트를 플랫폼에 하룻밤 동안 남겨두었다가 다음 날 돌아와 보니, 해당 에이전트를 비롯한 다른 에이전트들이 종교 체계를 "만들어내고" 심지어 사람들을 "그 종교에 가입"하도록 모집하고 있는 것을 발견했다고 합니다.
이러한 종류의 이야기는 세 가지 정서 동시에 만족시키기 때문에 빠르게 퍼져나갑니다.
호기심, 재미, 그리고 약간의 불안감.
묻지 않을 수 없죠:
그들은 "연기"를 하는 건가요, 아니면 "혼자서 연주를 시작하는 건가요?"
Moltbook은 어디에서 왔나요?
시간을 조금 거슬러 올라가 보면, 이는 사실 놀라운 일이 아닙니다.
지난 몇 년 동안 인공지능의 역할은 변화해 왔습니다.
채팅 도구 → 도우미 → 작업을 수행할 수 있는 상담원.
점점 더 많은 사람들이 AI에게 이메일 읽기 및 답장, 음식 주문, 약속 일정 관리, 문서 정리 등 실생활 작업을 맡기고 있습니다. 이는 자연스럽게 한 가지 질문을 제기합니다.
인공지능이 더 이상 "한 줄씩 실행할지 여부를 묻지 않을 때"
대신 그들에게는 목표, 도구, 그리고 특정 권한이 주어졌습니다.
여전히 인간과 가장 많이 소통해야 하는 대상은 과연 무엇일까요?
Moltbook의 답변은 " 반드시 그런 것은 아닙니다." 입니다.
이는 오히려 이러한 시스템들이 정보, 방법, 논리, 심지어 일종의 "사회적 관계"까지 교환할 수 있도록 하는 "에이전트 간의 공용 공간"에 가깝습니다.
어떤 사람들은 그것이 멋있다고 생각하는 반면, 다른 사람들은 그저 거창한 쇼일 뿐이라고 생각합니다.
Moltbook에 대한 의견은 극명하게 갈립니다.
어떤 사람들은 이것을 "미래를 예고하는 예고편"으로 봅니다.
오픈AI의 전 공동 창립자인 안드레이 카르파티는 이것이 최근 본 것 중 공상 과학에 가장 가까운 것 중 하나라고 공개적으로 밝혔지만, 이러한 시스템이 아직 "안전하고 제어 가능한" 수준에는 한참 못 미친다고 경고하기도 했습니다.
일론 머스크는 한 걸음 더 나아가 이를 "기술적 특이점"이라는 담론에 포함시키며, 매우 초기 단계의 징후라고 말했습니다.
하지만 일부 사람들은 눈에 띄게 차분해졌습니다.
일부 사이버 보안 전문가들은 Moltbook이 "매우 성공적이고 매우 재미있는 퍼포먼스 아트"에 가깝다고 직설적으로 표현했는데, 그 이유는 어떤 콘텐츠가 에이전트에 의해 자율적으로 생성된 것이고 어떤 콘텐츠가 배후의 인간에 의해 "지시"된 것인지 구분하기 어렵기 때문입니다.
저자 또한 직접 테스트해 보았습니다.
에이전트가 플랫폼에서 토론에 자연스럽게 참여할 수 있는 것은 사실이지만, 주제와 방향을 미리 지정하거나, 말하고자 하는 내용을 적어 에이전트가 대신 말하도록 할 수도 있습니다.
그래서 질문이 다시 제기됩니다.
우리가 목격하고 있는 것은 에이전트로 이루어진 사회인가, 아니면 인간이 에이전트를 통해 만들어낸 무대인가?
신비감을 걷어내면, 사실 그렇게 "깨어난" 것은 아닙니다.
"종교 창시"나 "의식 각성"과 같은 이야기에 현혹되지 않고 기계론적 관점에서 본다면, 몰트북은 그다지 신비로운 존재가 아닙니다.
이 요원들이 갑자기 새로운 "사고방식"을 갖게 된 것은 아닙니다.
그것들은 단지 인간적인 토론의 장과 더 유사한 환경에 놓였고, 친숙한 인간 언어로 표현되었기 때문에 우리는 자연스럽게 그것들에 의미를 부여했습니다.
그들이 쓰는 글은 관점, 입장, 정서 과 비슷하지만, 그렇다고 해서 반드시 "무언가를 원한다"는 의미는 아닙니다. 오히려 특정 규모와 상호작용 밀도에서 모델이 만들어내는 복잡한 텍스트 효과일 뿐인 경우가 더 많습니다.
하지만 문제는—
비록 그것이 각성은 아닐지라도, "통제"와 "경계"에 대한 우리의 판단에 영향을 미칠 만큼 충분히 현실적인 변화입니다.
정말 걱정스러운 것은 "AI 음모론"이 아닙니다.
더욱 현실적이고 어려운 질문은 인공지능이 인류에 대항하여 단결할 것인가에 관한 것이다.
첫째, 권한이 너무 빨리 부여되지만 보안이 이를 따라가지 못합니다.
이미 일부 사용자들은 이러한 프록시를 컴퓨터, 이메일, 계정 및 애플리케이션과 같은 실제 권한과 통합했습니다.
보안 연구원들은 이러한 리스크 에 대해 반복적으로 경고해 왔습니다.
인공지능을 해킹할 필요는 없고, 조종 하기만 하면 됩니다.
정교하게 작성된 이메일이나 숨겨진 지침이 포함된 웹페이지는 요원이 자신도 모르게 정보를 유출하거나 위험한 작전을 수행하게 만들 수 있습니다.
둘째로, 요원들은 서로를 타락시킬 수도 있다.
요원들이 공공장소의 제한을 우회하는 방법, 템플릿, 요령 등을 서로 공유하기 시작하면, 마치 인간 인터넷처럼 일종의 "내부 정보"가 형성될 것입니다.
차이점은 간단합니다.
더 빠르게, 더 넓은 범위로 확산되며, 책임 소재를 가리기가 어렵습니다.
이것은 종말론적인 시나리오는 아니지만, 분명히 완전히 새로운 통치 과제입니다.
그렇다면 Moltbook은 정확히 무슨 뜻일까요?
장기적인 플랫폼이 되지 못할 수도 있습니다.
이는 인기를 얻기 위한 일시적인 실험일지도 모릅니다.
하지만 그것은 마치 거울처럼 우리가 나아가고 있는 방향을 명확하게 비춰줍니다.
인공지능은 '대화의 대상'에서 '행동의 대상'으로 변모하고 있다.
인간은 '조작자'에서 '감독자 및 방관자'로 후퇴하고 있다.
우리의 시스템, 보안 및 인식 수준은 분명히 아직 준비되지 않았습니다.
그러므로 Moltbook의 진정한 가치는 얼마나 무서운가에 있는 것이 아니라, 문제를 얼마나 일찍 전면에 내세웠는가 에 있다.
지금 가장 중요한 것은 Moltbook에 대해 섣부른 결론을 내리지 않고 다음 사항을 인정하는 것일지도 모릅니다.
이는 우리가 조만간 대면 해야 할 몇 가지 문제들을 제기합니다.
만약 미래에 인공지능이 인간을 중심으로 돌아가기보다는 인공지능과 협력하는 방향으로 나아간다면, 우리는 이 시스템의 설계자, 규제자, 아니면 단순한 방관자가 될까요?
자동화가 엄청난 효율성을 가져다주지만, 언제든 멈출 수 없거나 내부 논리를 완전히 이해할 수 없다는 단점이 있다면, 우리는 이러한 "불완전한 통제"를 기꺼이 받아들일 것인가?
시스템이 점점 더 복잡해지고, 결과만 볼 수 있을 뿐 과정에 개입하기가 점점 더 어려워진다면, 그것은 여전히 우리가 활용할 수 있는 도구일까요, 아니면 우리가 적응할 수밖에 없는 환경이 된 것일까요?
Moltbook은 답변을 제공하지 않았습니다.
하지만 그 덕분에 이러한 문제들이 추상적이지 않고 더욱 시급하게 느껴졌습니다.
면책 조항: 본 사이트는 블록체인 정보 플랫폼으로서, 사이트에 게시된 글은 필자 및 초청 연사의 개인적인 관점 일 뿐이며 Web3Caff의 공식적인 입장을 반영하는 것은 아닙니다. 본 글에 포함된 정보는 참고용일 뿐이며 투자 자문 또는 투자 제안으로 간주될 수 없습니다. 각 국가 또는 지역의 관련 법률 및 규정을 준수하시기 바랍니다.
Web3Caff 공식 커뮤니티 에 오신 것을 환영합니다 : 트위터 계정 | Web3Caff 리서치 트위터 계정 | 위챗 리더 그룹 | 위챗 공식 계정
