원래는 Coindesk 에서 출판되었습니다.
7월 말, 마크 주커버그는 "긍정적인 AI 미래를 위해 오픈 소스가 필요한 이유"를 설명하는 편지를 썼는데, 그 편지에서 그는 오픈 소스 AI 개발의 필요성에 대해 시적으로 표현했습니다. 한때 괴짜였던 십 대 창업자는 이제 웨이크보딩, 금사슬 착용, 주짓수 파이터 "주크"로 변신했고, 오픈 소스 모델 개발의 메시아로 불렸습니다.
Reaching Escape Velocity를 읽어주셔서 감사합니다! 무료로 구독하여 새로운 게시물을 받고 저의 작업을 지원하세요.
하지만 지금까지 그와 Meta 팀은 이러한 모델이 어떻게 배포되는지에 대해 많은 것을 명확히 밝히지 않았습니다. 모델 복잡성이 컴퓨팅 요구 사항을 더욱 높이면서, 모델 배포가 소수의 행위자에 의해 제어된다면, 우리는 비슷한 형태의 중앙 집중화에 굴복하지 않았을까요? 분산형 AI는 이러한 과제를 해결할 것을 약속하지만, 이 기술은 업계를 선도하는 암호화 기술과 고유한 하이브리드 솔루션의 발전이 필요합니다.
중앙 집중형 클라우드 제공자와 달리 분산형 AI(다이(Dai))는 AI 추론 및 훈련을 위한 계산 프로세스를 여러 시스템, 네트워크 및 위치에 분산합니다 . 올바르게 구현하면 분산형 물리적 인프라 네트워크(DePIN)의 한 유형인 이러한 네트워크는 검열 저항, 컴퓨팅 액세스 및 비용 측면에서 이점을 제공합니다.
다이(Dai) AI 환경과 분산형 인프라 자체라는 두 가지 주요 영역에서 과제에 직면합니다. 중앙 집중형 시스템에 비해 다이(Dai) 모델 세부 정보에 대한 무단 액세스나 독점 정보의 도난 및 복제를 방지하기 위한 추가 보호 장치가 필요합니다. 이러한 이유로 오픈 소스 모델에 집중하지만 폐쇄형 소스 모델에 비해 오픈 소스 모델의 잠재적인 성능 단점을 인식하는 팀에게는 탐색되지 않은 기회가 있습니다.
분산 시스템은 특히 네트워크 무결성과 리소스 오버헤드에서 장애물에 직면합니다. 예를 들어, 클라이언트 데이터를 여러 노드에 분산하면 공격 벡터가 더 많이 노출됩니다. 공격자는 노드를 스핀업하여 계산을 분석하고, 노드 간 데이터 전송을 가로채거나, 심지어 시스템 성능을 저하시키는 편향을 도입할 수도 있습니다. 안전한 분산 추론 모델에서도 계산 프로세스를 감사하는 메커니즘이 있어야 합니다. 노드는 불완전한 계산을 제시하여 리소스 비용을 절감하려는 인센티브를 받고, 신뢰할 수 있는 중앙 집중식 행위자가 없기 때문에 검증이 복잡해집니다.
영지식 증명
영지식 증명(ZKP)은 현재 컴퓨팅 측면에서 너무 비싸지만 일부 다이(Dai) 과제에 대한 잠재적 솔루션 중 하나입니다. ZKP는 한 당사자(증명자)가 진술 자체에 대한 세부 정보(유효성 제외)를 공개하지 않고 진술의 진실성을 다른 당사자(검증자)에게 확신시킬 수 있는 암호화 메커니즘입니다. 이 증명에 대한 검증은 다른 노드가 빠르게 실행할 수 있으며 각 노드가 프로토콜에 따라 행동했다는 것을 증명할 수 있는 방법을 제공합니다. 증명 시스템과 그 구현 간의 기술적 차이점(나중에 자세히 설명)은 이 분야의 투자자에게 중요합니다.
중앙 집중형 컴퓨팅은 모델 학습을 소수의 잘 위치 지정되고 리소스가 있는 플레이어에게만 독점적으로 제공합니다. ZKP는 소비자 하드웨어에서 유휴 컴퓨팅을 잠금 해제하는 한 부분이 될 수 있습니다. 예를 들어 MacBook은 추가 컴퓨팅 대역폭을 사용하여 사용자를 위한 토큰을 획득하는 동시에 대규모 언어 모델을 학습하는 데 도움이 될 수 있습니다.
Gensyn 및 Inference Labs 와 같은 팀은 소비자 하드웨어로 분산형 훈련 또는 추론을 배포하는 데 중점을 두고 있습니다. Akash 또는 Render 와 같은 분산형 컴퓨팅 네트워크와 달리 컴퓨팅을 분할하면 복잡성, 즉 부동 소수점 문제가 추가됩니다. 유휴 분산 컴퓨팅 리소스를 활용하면 소규모 개발자가 관련 과제를 해결하는 도구에 액세스할 수 있는 한 자체 네트워크를 테스트하고 훈련할 수 있는 문이 열립니다.
현재 ZKP 시스템은 기본적으로 컴퓨팅을 실행하는 것보다 4~6배 더 비싼 듯하며, 높은 컴퓨팅(모델 학습과 같은) 또는 낮은 지연 시간(모델 추론과 같은)이 필요한 작업의 경우 ZKP를 사용하면 엄청나게 느립니다. 비교를 위해 6배가 떨어진다는 것은 M3 Max 칩에서 실행되는 최첨단 시스템( a16z의 Jolt 와 같은)이 TI-84 그래픽 계산기에서 실행하는 것보다 프로그램을 150배 더 느리게 만들 수 있음을 의미합니다.
AI는 방대한 양의 데이터를 처리할 수 있는 능력으로 인해 영지식 증명(ZKP)과 호환되지만, ZKP가 널리 사용되기 위해서는 암호화에서 더 많은 진전이 필요합니다. Irreducible ( Binius 증명 시스템과 커밋먼트 체계를 설계한 팀), Gensyn , TensorOpera , Hellas, Inference Labs 등의 팀이 수행하는 작업은 이 비전을 달성하는 데 중요한 단계가 될 것입니다. 그러나 진정한 혁신에는 시간과 수학적 발전이 필요하기 때문에 타임라인은 여전히 지나치게 낙관적입니다.
그동안 다른 가능성과 하이브리드 솔루션에 주목할 가치가 있습니다. HellasAI와 다른 사람들은 낙관적 챌린지 게임을 가능하게 할 수 있는 모델과 계산을 표현하는 새로운 방법을 개발하고 있으며, 이는 영지식 에서 처리해야 하는 계산의 하위 집합만을 허용합니다. 낙관적 증명은 스테이킹, 잘못을 증명할 수 있는 능력, 시스템의 다른 노드가 계산을 검사하고 있다는 믿을 만한 위협이 있는 경우에만 작동합니다. Inference Labs 에서 개발한 또 다른 방법은 노드가 본드로 ZKP를 생성하도록 커밋하지만 클라이언트가 먼저 챌린지를 제기하는 경우에만 증명을 제시하는 쿼리의 하위 집합을 검증합니다.
요약해서
분산형 AI 훈련 및 추론은 몇몇 주요 행위자의 권력 통합에 대한 보호 장치 역할을 하면서 이전에는 접근할 수 없었던 컴퓨팅을 잠금 해제합니다. ZKP는 이 비전을 실현하는 데 필수적인 부분이 될 것입니다. 컴퓨터는 백그라운드에서 추가 처리 능력을 활용하여 눈에 띄지 않게 실제 돈을 벌 수 있습니다. 계산이 올바르게 수행되었다는 간결한 증거는 가장 큰 클라우드 공급자가 활용하는 신뢰를 불필요하게 만들어 더 작은 공급자가 있는 컴퓨팅 네트워크가 기업 고객을 유치할 수 있도록 합니다.
영지식 증명이 이 미래를 가능하게 하고 단순한 컴퓨트 네트워크(예: 이더리움의 단일 슬롯 완결성 비전) 이상의 필수적인 부분이 되겠지만, 그 컴퓨테이션 오버헤드는 여전히 장애물입니다. 낙관적 게임의 게임 이론 메커니즘과 영지식 의 선택적 사용을 결합한 하이브리드 솔루션이 더 나은 솔루션이며, ZKP가 훨씬 더 빨라질 때까지 연결 지점으로 널리 퍼질 가능성이 큽니다.
네이티브 및 비네이티브 암호화폐 투자자에게 분산형 AI 시스템의 가치와 과제를 이해하는 것은 자본 효과적으로 배치하는 데 매우 중요합니다. 팀은 노드 계산 증명 및 네트워크 중복성과 관련된 질문에 대한 답을 가지고 있어야 합니다. 또한 많은 DePIN 프로젝트에서 관찰했듯이 분산화는 시간이 지남에 따라 발생하며 해당 비전에 대한 팀의 명확한 계획이 필수적입니다. DePIN 컴퓨팅과 관련된 과제를 해결하는 것은 개인과 소규모 개발자에게 제어권을 되돌려주는 데 필수적이며, 이는 시스템을 개방적이고 자유롭고 검열에 저항적으로 유지하는 데 중요한 부분입니다.
Reaching Escape Velocity를 읽어주셔서 감사합니다! 무료로 구독하여 새로운 게시물을 받고 저의 작업을 지원하세요.