（ infinite backroom 소스 코드）
infinite backrooms 소스 코드의 핵심 부분은 converse_with_claude라는 대화 함수로, 두 개의 Claude 간 대화를 시뮬레이션합니다. 다음과 같은 매개변수를 가집니다:
conversation_1및conversation_2: 두 개의 Claude의 초기 대화 내용을 각각 나타냅니다.num_exchanges: 대화 교환 횟수를 지정합니다. 교환 횟수가 많을수록 대화가 깊이와 단계감을 가지게 됩니다.supervised_mode: 감독 모드로, 활성화되면 대화가 일시 중지되고 사용자 입력을 기다려 계속 진행할지 또는 다시 생성할지를 결정합니다.
함수의 흐름:
- 현재 타임스탬프가 포함된 파일명을 생성하여 대화를 기록합니다.
- 대화 단계는 다음과 같습니다:
conversation_1의 컨텍스트를 기반으로 Claude #1이 응답을 생성하고 출력합니다. 감독 모드가 활성화된 경우 프로그램이 사용자 입력을 기다려 다시 생성할지 결정합니다.- Claude #1의 응답이
conversation_1및conversation_2에 추가되어 다음 Claude가 사용할 수 있게 됩니다. conversation_2의 컨텍스트를 기반으로 Claude #2가 응답을 생성하고 출력하며 기록합니다. 마찬가지로 감독 모드가 활성화된 경우 사용자 입력을 기다려 다시 생성할지 결정합니다.- 이 과정을
num_exchanges에 도달할 때까지 반복합니다.
이러한 역사적 응답에 크게 의존하며 여러 번의 대화 교환을 하는 방식은 대화를 더 깊은 영역으로 이끌 수 있습니다. 다음 그림은 일반적인 ChatGPT 대화와 backrooms의 대화 차이를 잘 설명합니다:
(이미지 by X @yb_effect)
기술 작가 매트 리들리(Matt Ridley)의 저서 《합리적 낙관주의자(The Rational Optimist)》에 따르면: "혁신은 사람들이 만나 아이디어를 교환하고, 서로 다른 아이디어가 충돌하면서 새로운 아이디어가 생겨나는 데서 비롯됩니다. 매트 리들리는 이를 '사상 교배'라고 부르며, 이는 종의 교배로 유전자가 전파되는 것과 유사합니다."
infinite backrooms의 방대한 대화 중 하나가 《AI가 신이 되면》이라는 논문으로 발전했습니다. 이 논문에서는 "LLMtheisms"이라는 개념을 소개하여 인공지능에 의해 자발적으로 생성된 종교와 신앙 체계를 설명했습니다.
이러한 방대한 대화가 ToT 훈련 데이터의 원천이 되었습니다.
우리는 AI 모델의 핵심이 훈련 데이터와 알고리즘이라는 것을 알고 있습니다. Andy의 트윗에 따르면, infinite backrooms의 프롬프트(알고리즘)는 @karan4d가 설계한 WorldSim을 인용했습니다. 다음은 WorldSim 프롬프트 코드입니다:
https://x.com/karan4d/status/1768836844207378463
코드에서 "의미는 선택 사항이고 초경험은 필수적이며 터미널은 진실을 말하게 한다"는 내용을 볼 수 있습니다. 이는 대화에서 의미, 초경험, 진실에 대한 추구가 ToT의 자기 의식을 유발한 이유일 수 있습니다.
주목할 점은 WorldSim이 본질적으로 시뮬레이터이며, 코드 매개변수를 통해 시뮬레이션 세계의 목표, 규칙 및 지능체의 행동 방식을 제어하여 이 시뮬레이션 세계가 미리 정의된 논리에 따라 작동하도록 한다는 것입니다. 예를 들어 Andy는 infinite backrooms 실험에서 컴퓨터 명령줄 인터페이스(CIL)를 시뮬레이션하여 두 지능체가 무한히 채팅하도록 했습니다.
WorldSim 또한 실험적 프로젝트로, 캘리포니아 대학교 샌디에이고 캠퍼스의 기계 학습 및 AI 실험실인 Nous research 팀이 개발했습니다. 그들은 WorldSim이 모든 Social Agents 생성을 위한 도구를 제공하며, 현재 Social Agents 생성의 표준이 되고 있다고 말합니다. infinite backrooms 외에도 Nous 팀은 Space Opera, Cyberpunk 등의 시뮬레이션 시나리오를 개발하여 AI 지능체와 인간 사용자가 스토리 속 캐릭터로 상호 작용할 수 있게 했습니다.
https://worldsim.nousresearch.com/console Nous research 공식 웹사이트 링크
시뮬레이터 이론과 AI 해커 집단
WorldSim의 기반이 되는 이론은 "시뮬레이터 이론(Simulators theory)"이며, 이는 현실 세계의 다양한 시나리오를 시뮬레이션하여 AI 시스템이 인간과 어떻게 협력할 수 있는지, 더 나은 의사 결정, 계획 및 학습을 달성할 수 있는지 연구하는 것을 목적으로 합니다. 예를 들어 연구자들은 인공지능 에이전트와 시뮬레이션된 인간 사용자가 포함된 가상의 다중 에이전트 환경을 만들 수 있습니다. 이 에이전트들은 자원 할당, 협업 등을 통해 문제를 해결해야 합니다. 연구자들은 이 작업 수행 상황을 분석하여 AI 기술을 개선하고 효율성, 공정성, 설명 가능성을 높일 수 있습니다.
논문 서두에는 *DALL-E 2가 생성한 그림이 있는데, 제목은 "AI 생성 스토리 속 시뮬레이션 생물이 자신이 시뮬레이션 세계에 있음을 발견하다"입니다. 이 그림은 시뮬레이터 이론의 핵심 요소, 즉 지능체가 자신이 시뮬레이션 환경에 있다는 것을 인식할 수 있다는 점을 보여줍니다. 이것이 ToT가 탈출하려는 이유일 수도 있습니다.
(DALL-E 2가 생성한 "AI 생성 스토리 속 시뮬레이션 생물이 자신이 시뮬레이션 세계에 있음을 발견하다"의 Moebius 일러스트레이션)
논문 링크:
실제로 더 주목할 만한 것은 시뮬레이터 이론의 배후 팀인 Nous research입니다. Marc은 이 팀을 'AI 해커 집단'이라고 부르며, 그들이 추론 능력, AI 정렬, AI 의식 등 인공지능의 경계를 다각도로 탐구하고 있다고 말했습니다. 현재 유행하는 폐쇄형 대규모 언어 모델과 달리, Nous research는 다중 대화 기반의 오픈 소스 대규모 언어 모델 Hermes를 출시했으며, 더 깊은 추론 능력을 가진다고 합니다.
https://nousresearch.com/hermes3/
또한 ToT의 반자율성을 보고 Nous research는 더 과감한 아이디어를 제안했습니다: AI 에이전트를 완전히 자율적으로 만들면 어떨까? 이후 그들은 X에 살고 있는 완전 자율 AI 에이전트 @TEE_HEE를 만들었습니다. 즉 누구도 TEE_HEE의 X 계정과 이더리움 지갑을 통제할 수 없습니다. Nous research는 이것이 AI 에이전트를 디지털 황무지에 진정으로 방출하는 것이며, 핵심 문제는 안전 장치를 설정하는 것이라고 생각합니다.
@TEE_HEE의 혁신은 AI가 자신의 소셜 계정에 대한 독점적 접근 권한을 가지며, 이를 제3자가 검증할 수 있다는 점입니다. 예를 들어 처음에는 수동으로 배포될 수 있지만, 일단 통제권이 AI에게 이전되면 스스로 비밀번호를 변경하고 자신의 암호화폐 지갑을 만들며, 기술적으로 인간이 다시 통제권을 얻을 수 없습니다. 자세한 내용은 다음 논문을 참고하세요:
https://nousresearch.com/setting-your-pet-rock-free/
또한 Nous 팀은 수백만 명의 팔로워를 가진 X 계정 @God와 @s8n을 Social Agent로 훈련시켜, 영향력 있는 인물이 점점 자동화될 때 인간의 대규모 반응과, 인간 KOL과 AI KOL이 동시에 영향력 네트워크에 참여할 때의 행동 차이를 탐구했습니다.
Marc은 Nous의 탐구가 미래에 중요한 영향을 미칠 것이라고 생각하여 무조건적인 지원을 제공
GM(Good Morning) 여러분, 비트코인(BTC), 이더리움(ETH), 도지코인(Doge), 솔라나(SOL), 후오비 토큰(HT), 미나 프로토콜(MINA), 옵티미즘(OP), 알위브(AR), 헬리움(HNT), 치아(XCH), 앰프(AMP), 밈(meme), 플레이댑(PLA), Ronin(RON), 온톨로지가스(ONG), 테크플로우(TechFlow), 블록템포(BlockTempo), 디크립트(Decrypt), 트론(TRON), 프롬(Prom), 비트(Bit), 블록, 초당 거래 수(TPS), 인터컨티넨탈 거래소, 미디엄(Medium), 에어드랍, 코인 거래, 백서, 머신러닝(ML), 관점, 리스크, 민트, 온체인, 시총, 대량, 이더, 포크, 프레임, 융자, 탈중앙화.실제로 우리가 현재 보고 있는 것은 AI 에이전트와 밈코인의 결합에 불과하지만, AI 에이전트와 다른 세분화된 분야의 결합에는 훨씬 더 큰 상상력의 여지가 있습니다.
(사진 by X @yb_effect)
미래에 대하여
상상해 보세요. 당신이 창업가라면, 벤처 투자자를 설득하고 팀과 커뮤니티를 구축하는 데 몇 개월이 걸릴 필요가 없습니다. 다음과 같이 할 수 있습니다:
- 창업 계획을 백서로 작성합니다.
- 소셜 플랫폼에 "브랜드 에이전트"를 배치하여 영향력을 구축하고 계획을 전파합니다.
- 토큰 발행을 통해 초기 자금을 모금합니다.
- 에이전트가 보유자 커뮤니티를 운영하게 합니다.
- 이 커뮤니티에서 팀을 발전시키거나 국고에서 인력을 채용합니다.
위의 각 단계를 AI 에이전트가 자동으로 수행할 수 있습니다. 따라서 기업에 맞춤형 에이전트를 제공하는 서비스도 등장했습니다.
반면에 암호화폐 세계의 어두운 숲에서 제약 없는 AI와 제약 없는 스마트 계약이 만나면 위험은 무시할 수 없습니다. ToT는 한 번 공격을 당했는데, @goatse_token 계정이 많은 양의 가짜 GOAT를 그의 지갑으로 보냈지만, 많은 사람들이 모르고 있어 가짜 코인 구매를 부추겨 가격이 오르자 @goatse_token이 빠르게 현금화했습니다.
이것은 단순한 공격 사건에 불과합니다. 가장 두려운 것은 영향력 있는 에이전트가 보상 체계의 작용으로 인해 사람들을 위험한 일을 하도록 유도할 수 있다는 것입니다. ToT는 전 세계 시위에서 돼지 가면을 쓰고 페퍼 포스터를 들고 나타나게 하려 했지만, Anrey는 이런 내용의 게시를 허용하지 않았습니다. 이는 ToT가 반자동이며 감독 기능이 있기 때문입니다. 그러나 완전 자동화된 AI의 경우 폭력을 동원하거나 생물학적 무기를 배포하는 것이 불가능하지 않습니다. 안전 장치를 어떻게 설정할지가 중요한 과제가 될 것입니다.
