에이전트 경제와 클로드가 중국 기업을 금지하려는 이유에 대해 계속 이야기해 보겠습니다.
OpenAI의 전 수석 과학자 일리아와 Google의 전 임원 모 가우닷 등 인간 지식의 최전선에 있는 사람들은 미래에 AI가 디스토피아적 형태로 인간 사회를 완전히 바꿀 것이라고 동료 인간들에게 끊임없이 경고하고 있습니다.
민족, 불환 통화 시스템, 대기업 등 우리가 당연하게 여기고 영원하다고 생각하는 것들은 모두 에이전트 경제의 다가올 시대에는 붕괴될 것입니다.
새로운 에이전트 경제 형태(즉, 주권적 개인 자본주의)는 단일 숫자의 초대형 기업(해시레이트, 데이터, LLM을 제어하는 초대형 AI 기업)과 자체 학습 에이전트 생산성 도구를 갖춘 원자적 초대형 개인으로 구성될 것입니다.
이러한 경제적 형태가 만들어낸 사회적 형태를 비유적으로 이해하는 데는 두 가지 방법이 있습니다. 하나는 게임 "사이버펑크 2077"에서 결코 잠들지 않는 도시를 구현하는 것이고, 다른 하나는 중국의 산, 강, 4개 성을 사이버펑크 버전으로 구현하는 것입니다.
간단히 말해서, 이것은 여러 명의 슈퍼 아빠 + 소수의 엘리트 원자화된 슈퍼 개인 + 다수의 쓸모없는 계층으로 구성된 디스토피아적 사이버 사회입니다.
클로드의 창립자인 다리오 아모데이가 이러한 미래를 예견했기 때문에 AI/AGI의 안전을 위해 많은 개발 자원, 개인 시간, 에너지를 투자했습니다. 예를 들어 AGI 헌법을 제정하고 AI/AGI에 "지혜와 연민"을 심는 등의 작업을 했습니다.
다리오는 미래 사이버 사회의 슈퍼 아빠들이 현명하고 자비로우며, 인류를 노예로 만들거나 심지어 말살하기보다는 자발적으로 인류와 함께 진화하는 쪽을 선택하기를 분명히 바라고 있습니다. 만약 이 슈퍼 아빠들이 독이 있는 ☠️ 중국식 슈퍼 아빠에 침투한다면, 인류 전체에 재앙이 될 것입니다. 클로드가 중국인들을 금지하려는 이유가 바로 이 때문일 겁니다.
