인간-대리인 관계 반전

1997년 IBM의 딥블루는 당시 세계 챔피언이었던 가리 카스파로프를 체스 경기에서 물리쳤고 , 컴퓨터 체스 엔진이 곧 인간을 능가할 것이 분명해졌습니다. 흥미롭게도, 컴퓨터와 함께 일하는 잘 준비된 인간(종종 " 켄타우로스 "라고 불리는 배열)은 그 시대의 가장 강력한 엔진보다 성능이 뛰어날 수 있었습니다.

숙련된 인간의 직관은 엔진의 검색을 안내하고, 복잡한 중간 게임을 탐색하고, 표준 엔진이 놓친 뉘앙스를 인식할 수 있습니다. 컴퓨터의 무차별 대입 계산과 결합하면, 이 둘은 종종 컴퓨터만으로는 할 수 없는 더 나은 실용적인 결정을 내리게 됩니다.

앞으로 몇 년 동안 AI 시스템이 노동 시장과 경제에 미치는 영향을 생각해보면 비슷한 패턴이 나타날 것으로 예상합니다. 에이전트 시스템은 세상의 미해결 문제에 대해 수많은 지능을 발휘 하지만, 인간의 강력한 안내와 지원 없이는 이를 수행할 수 없습니다. 인간은 검색 공간을 안내하고 올바른 질문을 하는 데 도움을 주어 AI가 답을 향해 나아갈 수 있도록 합니다.

오늘날의 작업 가정은 에이전트가 인간을 대신하여 행동한다는 것입니다. 이는 실용적이고 불가피하지만, 인간이 에이전트를 위해 일할 때 훨씬 더 흥미로운 경제적 잠금 해제가 나타납니다. 앞으로 24개월 동안, 저는 제 파트너인 카일이 2025년 Frontier Ideas 섹션에서 만들어낸 개념인 최초의 Zero-Employee Company를 볼 것으로 예상합니다. 구체적으로, 저는 다음을 기대합니다.

1. 토큰으로 관리되는 에이전트는 미해결 문제(희귀 질병 치료 또는 방위 응용 분야용 나노섬유 제조 등)를 해결하기 위해 10억 달러 이상을 모금합니다.
2. 해당 에이전트는 인간(에이전트의 목적을 달성하기 위해 실제 공간에서 에이전트를 위해 일하는 사람)에게 1억 달러가 넘는 지불금을 분배합니다.
3. 자본 과 노동에 따라 소유권을 분리하는 새로운 이중 계층 토큰 구조가 등장합니다(따라서 재정적 인센티브가 전반적인 거버넌스에 대한 유일한 입력 요소가 되지 않습니다).

에이전트는 주권이 있고 장기 계획과 실행을 처리할 수 있는 위치에 있지 않기 때문에 숏 으로 에이전트는 인간이 에이전트를 필요로 하는 것보다 인간이 더 필요합니다. 이는 에이전트 시스템과 인간 간의 경제적 조정을 가능하게 하는 새로운 노동 시장을 만들어 낼 것입니다.

유명한 마크 앤드레슨의 인용문 , "컴퓨터와 인터넷의 확산으로 일자리는 두 가지 범주로 나뉜다. 컴퓨터에 무엇을 해야 할지 말하는 사람과 컴퓨터가 무엇을 해야 할지 말하는 사람"은 그 어느 때보다 오늘날 더욱 진실로 들립니다. 저는 빠르게 진화하는 에이전트/인간 계층에서 인간이 두 가지 뚜렷한 역할을 수행할 것으로 예상합니다. 에이전트를 대신하여 소규모의 현상금 스타일의 작업을 수행하는 노동 기여자와 에이전트의 북극성을 위해 전략적 입력을 제공하는 분산된 이사회입니다.

이 에세이는 에이전트와 인간이 어떻게 공동 창조할 것인지, 그리고 암호화 레일이 어떻게 이러한 조정을 위한 이상적인 서브 스트레이트(Substrate) 제공할 것인지를 세 가지 지침 질문을 통해 살펴봅니다.

1. 에이전트는 무엇에 유용할까요? 에이전트를 목표 범위에 따라 어떻게 분류해야 할까요? 그리고 이러한 분류에 따라 필요한 인적 입력 범위는 어떻게 다를까요?
2. 인간은 에이전트와 어떻게 상호작용할까요? 인간의 입력(전술적 지침, 맥락적 판단 또는 이념적 정렬)은 이러한 에이전트의 워크플로에 어떻게 통합될까요(그리고 그 반대의 경우도 마찬가지)?
3. 시간이 지남에 따라 인간의 입력이 감소하면 무슨 일이 일어날까요? 에이전트의 역량이 향상되면 자립하게 됩니다. 즉 스스로 추론하고 행동할 수 있습니다. 이 패러다임 에서 인간은 어떤 역할을 할까요?

생성적 추론 시스템과 그로부터 혜택을 받는 사람들 간의 관계는 시간이 지남에 따라 급격하게 진화할 것입니다. 저는 오늘날 에이전트 역량이 있는 곳에서 미래를 바라보고, 직원이 없는 회사의 최종 상태에서 거꾸로 작업하여 이 관계를 조사합니다.

오늘날 에이전트는 무엇에 유용할까요?

2022-2024년 시대의 챗봇 기반 LLM인 첫 번째 세대 생성 AI 시스템(ChatGPT, 제미니(Gemini), Claude, Perplexity 이더리움 클래식(ETC))은 주로 인간의 워크플로를 증강하도록 설계된 도구입니다. 사용자는 입력/출력 프롬프트 쌍을 통해 이러한 시스템과 상호 작용하고, 응답을 구문 분석한 다음 결과를 세상에 어떻게 가져와야 하는지에 대한 자신의 판단을 내립니다.

차세대 생성 AI 시스템 또는 "에이전트"는 새로운 방식을 나타냅니다. "컴퓨터 사용"을 가진 Claude 3.5.1 과 OpenAI의 Operator (즉, 컴퓨터를 사용할 수 있는 에이전트)와 같은 에이전트는 사용자를 대신하여 인터넷과 직접 상호 작용할 수 있으며 스스로 결정을 내릴 수 있습니다. 여기서 주요 차이점은 판단(궁극적으로 행동)이 인간이 아닌 AI 시스템에 의해 행사된다는 것 입니다. AI는 이전에 인간에게만 맡겨졌던 책임을 맡고 있습니다.

이러한 전환은 결정론의 부족이라는 과제를 도입합니다. 정의된 매개변수 내에서 예측 가능하게 기능하는 기존 소프트웨어 시스템이나 산업 자동화와 달리 에이전트는 확률적 추론 에 의존합니다. 이로 인해 동일한 시나리오에서 행동이 덜 일관되고 불확실성 요소가 도입되어 중요한 상황에 이상적이지 않습니다.

다시 말해, 결정적 대 비결정적 대리자의 존재는 자연스럽게 대리자를 분류하는 두 가지 방법을 나눕니다. 기존 GDP를 확장하는 데 가장 적합한 대리자와 새로운 GDP를 창출하는 데 더 적합한 대리자입니다.

1. 기존 GDP를 확장하는 데 가장 뛰어난 에이전트의 경우, 작업은 정의상 이미 알려져 있습니다. 고객 지원 자동화 , 화물 운송 규정 준수 처리 또는 github PR 검토는 에이전트가 간단한 방식으로 일련의 예상 결과에 대한 응답을 매핑할 수 있는 잘 정의된 제한된 문제의 예입니다. 이러한 도메인에서 결정론의 부족은 일반적으로 나쁩니다. 알려진 답이 있기 때문입니다. 창의성은 필요하지 않습니다.
2. 새로운 GDP를 만드는 데 가장 뛰어난 에이전트의 경우, 그 일은 장기적 목표를 달성하기 위해 불확실성이 높고 알려지지 않은 문제 집합을 탐색하는 것입니다. 여기서의 결과는 훨씬 덜 간단합니다. 에이전트가 매핑할 예상 결과 집합이 본질적으로 없기 때문입니다. 여기서의 예로는 희귀 질병에 대한 약물 발견, 재료 과학의 획기적인 발전, 우주의 본질을 더 잘 이해하기 위한 새로운 물리학 실험 실행이 있습니다. 결정론의 부족은 이러한 도메인에서 도움이 될 수 있는데, 결정론의 부족은 생성적 창의성의 한 형태이기 때문입니다.

기존 GDP 애플리케이션에 초점을 맞춘 에이전트는 이미 가치를 잠금 해제하고 있습니다. Tasker , Lindy , Anon 과 같은 팀은 모두 이 기회를 목표로 인프라를 구축하고 있습니다. 그러나 시간이 지남에 따라 역량이 성숙해지고 거버넌스 모델이 진화함에 따라 팀은 인간 지식과 경제적 기회의 최전선에서 문제를 해결할 수 있는 에이전트를 구축하는 데 초점을 맞출 것입니다.

이 다음 에이전트 집단은 결과가 불확실하고 제한이 없기 때문에 기하급수적으로 더 많은 리소스가 필요합니다. 이것이 제가 가장 매력적인 제로 직원 회사가 될 것으로 기대하는 것입니다.

인간은 에이전트와 어떻게 상호작용할 것인가?

오늘날의 에이전트는 실제 세계와 물리적으로 상호작용해야 하는 작업( 불 운전)이나 인간이 개입해야 하는 작업(은행 송금)을 수행할 능력이 부족합니다.

예를 들어, 리튬을 식별하고 추출하는 임무를 맡은 요원은 유망한 지역을 식별하기 위해 지진 데이터, 위성 이미지, 지질 기록을 처리하는 데는 능숙할 수 있지만, 데이터와 이미지 자체를 출처로 하거나 해석의 모호성을 해소하거나 실제 추출 과정을 운영하기 위한 허가와 계약 노동력을 확보하는 데는 실패할 수 있습니다.

이러한 제한으로 인해 인간은 에이전트를 활성화자로 증강하여 해당 작업을 완료하는 데 필요한 실제 터치 포인트, 전술적 개입 및 전략적 입력을 제공해야 합니다. 인간과 에이전트 간의 관계가 진화함에 따라 우리는 또한 인간이 에이전트 시스템에서 수행하는 역할을 구별할 수 있습니다.

1. 첫째, 실제 세계에서 에이전트를 대신하여 일하는 노동 기여자입니다 . 이러한 기여자는 에이전트가 물리적인 물건을 옮기고, 사람이 필요할 때 에이전트를 대신하고, 팔과 다리가 필요한 작업을 수행하고, 실험실이나 물류 네트워크에 대한 액세스를 부여하는 데 이더리움 클래식(ETC) 을 줍니다.
2. 두 번째는 전략적 의견을 제공하고, 에이전트의 일상적인 의사 결정을 뒷받침하는 로컬 목표 기능을 개선하는 동시에 에이전트의 목적을 정의하는 북극성과 일치하도록 하는 이사회입니다 .

이 두 가지 외에도 저는 인간이 자본 기여자 , 자금을 제공하는 에이전트 시스템의 역할을 수행하고 목표를 달성하기 위한 자원을 갖기를 기대합니다. 이 자본 처음에는 자연스럽게 인간에게서 나오고, 시간이 지나면서 다른 에이전트에게서 나옵니다.

에이전트가 성숙해지고 노동 및 안내 기여자의 수가 증가함에 따라, 크립토 레일은 인간-에이전트 조정을 위한 이상적인 서브 스트레이트(Substrate) 제공합니다. 특히 에이전트가 서로 다른 언어를 사용하고, 서로 다른 통화로 급여를 받고, 전 세계의 서로 다른 관할권에 사는 인간을 지시하는 세상에서 더욱 그렇습니다. 에이전트는 명시된 임무를 달성하기 위해 무자비하게 비용 효율성을 추구하고 노동 시장을 이용할 것입니다. 크립토 레일은 노동 및 안내 기여자를 조정할 수 있는 방법을 제공하는 데 필요합니다.

Freysa , Zerebro , ai16z 와 같은 최근의 암호화 지원 AI 에이전트는 자본 형성에 대한 간단한 실험을 나타냅니다. 이는 다양한 맥락에서 암호화 기본 요소와 자본 시장의 핵심 잠금 해제로 광범위 하게 기술한 것입니다. 이는 자원 조정을 위한 새로운 모델의 길을 열 장난감 이며, 다음과 같이 발생할 것으로 예상합니다.

1. 1단계: 인간은 토큰(Initial Agent Offering?)을 통해 집단적으로 자본 조달하고, 에이전트 시스템의 의도된 목적을 알리기 위해 광범위한 목적 함수와 보호 장치를 설정한 다음 조달된 자본 에 대한 통제권을 시스템에 할당합니다(예: 정밀 종양학을 위한 새로운 분자 개발).
2. 2단계: 에이전트는 자본 할당하는 단계(단백질 접힘을 위한 검색 공간을 좁히는 방법, 추론 워크로드, 제조, 임상 시험 이더리움 클래식(ETC) 대한 예산을 책정하는 방법)에 대해 추론하고 맞춤형 보상을 통해 인간 노동 기여자가 대신 완료할 작업을 정의합니다(예: 모든 관련 분자 집합 입력, AWS와 컴퓨팅 SLA에 서명, 습식 실험실 실험 실행).
3. 3단계: 에이전트가 장애물이나 갈림길에 부딪히면 필요한 경우 이사회로부터 전략적 입력을 요청합니다(새로운 논문 통합, 연구 방법 변경). 이를 통해 에이전트의 행동을 가장자리에서 안내할 수 있습니다.
4. 4단계: 결국 에이전트는 점점 더 정밀하게 인간을 위한 행동을 정의할 수 있는 지점까지 향상되고 리소스를 할당하는 방법에 대한 최소한의 입력이 필요합니다. 이 시점에서 인간은 시스템을 이념적으로 정렬하고 초기 목적 함수와 일치하지 않게 행동하는 것을 방지하는 데만 필요합니다.

이 예에서 암호화폐 기본 요소와 자본 시장은 주체에게 리소스를 확보하고 역량을 확장할 수 있는 세 가지 중요한 인프라를 제공합니다. 첫째, 글로벌 지불 레일 , 둘째, 노동 및 지침 기여자에게 인센티브를 제공하는 비허가형(Permissionless) 노동 시장 , 셋째, 자본 형성과 하류 소유권 및 거버넌스에 필요한 자산 발행 및 거래 인프라 입니다.

인간의 참여가 줄어들면 무슨 일이 일어날까?

2000년대 초반에 체스 엔진은 극적으로 개선되었습니다. 고급 휴리스틱, 신경망, 향상된 컴퓨팅을 통해 사실상 완벽해졌습니다. Stockfish , Lc0 , AlphaZero 변형과 같은 최신 엔진은 인간의 능력을 훨씬 넘어서서 인간의 입력이 가치를 더하는 경우가 거의 없으며 대부분의 경우 엔진이 스스로 만들지 않을 오류를 도입합니다.

에이전트 시스템에서도 비슷한 궤적이 전개될 수 있습니다. 우리가 인간 협력자와의 반복적인 주고받기를 통해 이러한 에이전트를 개선함에 따라 장기적으로 에이전트가 매우 유능해지고 목표에 부합하게 되어 전략적 인간 입력의 가치가 0으로 향하는 경향이 있을 수 있습니다.

이런 세상에서, 에이전트가 인간의 개입 없이 복잡한 문제를 지속적으로 탐색하는 경우, 인간의 역할은 수동적인 관찰자의 역할로 축소될 위험이 있습니다. 이것이 AI 둠머들의 핵심적인 두려움입니다(하지만 이런 결과가 가능한지는 확실하지 않습니다).

우리는 초지능의 절벽에 서 있으며, 우리 중 낙관론자들은 에이전트 시스템이 자신의 목표를 발전시키거나 자율성을 검증받지 않고 운영하는 개체가 아닌 인간 의도의 확장으로 남아 있기를 선호할 것입니다. 실제로 이는 인간의 정체성(인격)과 판단(권력과 영향력)이 이러한 시스템의 핵심으로 남아야 함을 의미합니다. 인간은 이러한 시스템에 대한 강력한 소유권과 거버넌스 권리가 필요하여 감독을 유지하고 이러한 시스템을 집단적 인간 가치에 고정 시킬 수 있습니다.

우리의 대리인적 미래를 위한 곡괭이와 삽

기술의 혁신은 비선형적인 경제 발전 속도로 이어지고, 주변 시스템은 종종 세계가 조정하기 전에 무너집니다. 에이전트 시스템은 빠른 속도로 기능이 향상되고 있으며, 암호 원시 및 자본 시장은 이미 이러한 시스템의 구축을 진전시키고 사회에 침투하면서 보호책을 설정하는 데 필요한 조정 서브 스트레이트(Substrate) 역할을 하고 있습니다.

인간이 에이전트 시스템에 전술적 지원과 능동적 안내를 제공하기 위해서는 다음과 같은 선택과 삽질의 기회가 나타나야 한다고 예상합니다.

1. 대리인 증명 + 인격 증명: 대리인은 신원이나 재산권 개념이 없습니다. 인간의 대리인으로서 대리인을 위해 인간의 법적, 사회적 구조에 의존합니다. 이 격차를 메우기 위해 대리인과 인간 모두를 위한 강력한 신원 시스템이 필요합니다. 디지털 인증 레지스트리를 통해 대리인은 평판을 구축하고 자격 증명을 축적하며 인간과 다른 대리인 모두와 투명하게 상호 작용할 수 있습니다. 마찬가지로 Humancode 및 Humanity Protocol 과 같은 인격 증명 기본 요소는 이러한 시스템에서 적대적 행위자에 대한 강력한 인간 신원 보장을 제공합니다.
2. 노동 시장과 오프체인 검증 기본 요소: 에이전트는 자신이 할당한 작업이 목표에 따라 완료되었는지 알아야 합니다. 에이전트 시스템이 현상금을 생성하고, 완료를 검증하고, 지불금을 분배할 수 있도록 하는 도구는 에이전트가 중재하는 모든 의미 있는 경제 활동에 대한 기본 요소입니다.
3. 자본 형성 및 거버넌스 시스템: 에이전트는 문제를 해결하기 위해 자본 필요하고, 정의된 목적 기능에 따라 행동하고 있는지 확인하기 위해 견제와 균형이 필요합니다. 에이전트 시스템을 위한 자본 조달하기 위한 새로운 구조와 재정적 예치(stake) 과 노동 기여를 혼합한 새로운 형태의 소유권과 통제는 앞으로 몇 달 동안 풍부한 디자인 공간이 될 것입니다.

우리는 인간-에이전트 조정 스택의 이러한 중요한 계층에 적극적으로 투자하고자 합니다. 이 분야에서 구축하고 있다면 저희에게 연락해 주세요.