작성자: Geng Kai, Eric, DFG

소개

2023년부터 AI와 DePIN은 모두 Web3에서 이슈 트렌드였으며, AI의 시총 은 300억 달러 , DePIN의 시총 은 230억 달러 입니다. 이 두 범주는 매우 크며 각 범주는 다양한 영역과 요구 사항을 충족하는 다양한 프로토콜을 다루며 별도로 다루어야 합니다. 그러나 이 기사에서는 둘 사이의 교차점을 논의하고 이 분야의 프로토콜 개발을 검토하는 것을 목표로 합니다.

AI 기술 스택에서 DePIN 네트워크는 컴퓨팅 리소스를 통해 AI에 유틸리티를 제공합니다. 대규모 기술 기업의 성장으로 인해 GPU가 부족 해졌고, 이로 인해 자체 AI 모델을 구축하는 다른 개발자들은 계산을 위한 GPU가 충분하지 않게 되었습니다. 이로 인해 개발자는 중앙 집중식 클라우드 공급자를 선택하게 되고, 이는 고성능 하드웨어에 대해 유연하지 못한 장기 계약을 체결해야 하므로 비효율성을 초래하게 됩니다.

DePIN은 기본적으로 토큰 보상을 사용하여 네트워크 목표에 부합하는 리소스 기여에 대한 인센티브를 제공하는 보다 유연하고 비용 효율적인 대안을 제공합니다. AI의 DePIN은 개인 소유자부터 데이터 센터까지 GPU 리소스를 크라우드소싱하여 하드웨어에 액세스해야 하는 사용자를 위한 통합 공급 장치를 형성합니다. 이러한 DePIN 네트워크는 컴퓨팅 성능이 필요한 개발자에게 맞춤화 기능과 주문형 액세스를 제공할 뿐만 아니라 유휴 상태에서 수익을 창출하는 데 어려움을 겪고 있는 GPU 소유자에게 추가 수익을 제공합니다.

시장에는 AI DePIN 네트워크가 너무 많아서 차이점을 식별하고 필요한 올바른 네트워크를 찾는 것이 어려울 수 있습니다. 다음 섹션에서는 각 프로토콜의 기능과 달성하려는 목표는 물론 달성한 몇 가지 구체적인 주요 사항에 대해 살펴보겠습니다.

AI DePIN 네트워크 개요

여기에 언급된 각 프로젝트는 비슷한 목적, 즉 GPU 컴퓨팅 시장 네트워크를 가지고 있습니다. 기사의 이 부분의 목적은 각 프로젝트의 하이라이트, 시장 초점 및 달성한 내용을 검토하는 것입니다. 다음 섹션에서 다루는 주요 인프라와 제품을 먼저 이해함으로써 차이점에 대한 통찰력을 얻을 수 있습니다.

Render는 GPU 컴퓨팅 성능을 제공하는 P2P 네트워크의 선구자입니다. 이전에는 콘텐츠 제작을 위한 그래픽 렌더링에 중점을 두었지만 나중에 Stable과 같은 도구 세트를 통합하여 신경 반사 필드(NeRF)에서 생성 AI까지 AI 컴퓨팅 작업을 포함하도록 범위를 확장했습니다. 확산.

흥미로운 것들 :

1. 오스카상을 수상한 기술을 보유한 클라우드 그래픽 회사 OTOY가 설립한 회사입니다.

2. GPU 네트워킹은 Paramount Pictures, PUBG, Star Trek 등과 같은 엔터테인먼트 산업의 주요 회사에서 사용 됩니다.

3. Stability AI 및 Endeavour와 협력하여 Render의 GPU를 활용하여 AI 모델을 3D 콘텐츠 렌더링 워크플로우와 통합

4. 여러 컴퓨팅 클라이언트 승인 및 더 많은 DePIN 네트워크 GPU 통합

Akash는 스스로를 "Airbnb의 호스팅 버전"이라고 부르며 스토리지, GPU 및 CPU 컴퓨팅을 지원하는 AWS와 같은 기존 플랫폼에 대한 " 슈퍼 클라우드 " 대안으로 자리매김했습니다. Akash Container Platform 및 Kubernetes 관리 컴퓨팅 노드 와 같은 개발자 친화적인 도구를 활용하면 환경 전반에 걸쳐 소프트웨어를 원활하게 배포하여 모든 클라우드 네이티브 애플리케이션을 실행할 수 있습니다.

흥미로운 것들 :

1. 일반 컴퓨팅부터 웹 호스팅까지 광범위한 컴퓨팅 작업을 대상으로 함

2. AkashML을 사용하면 GPU 네트워크가 Hugging Face와 통합하면서 Hugging Face에서 15,000개 이상의 모델을 실행할 수 있습니다.

3. Akash는 Mistral AI의 LLM 모델 챗봇 , Stability AI의 SDXL 텍스트-이미지 모델 및 Thumper AI의 새로운 기본 모델 AT-1 과 같은 몇 가지 주목할만한 애플리케이션을 호스팅합니다.

4. 메타버스 구축, AI 배포 및 연합 학습을 위한 플랫폼은 Supercloud를 활용합니다.

io.net은 AI 및 ML 사용 사례 전용 분산 GPU 클라우드 클러스터에 대한 액세스를 제공합니다. 데이터 센터, 암호화폐 채굴자 및 기타 탈중앙화 네트워크의 GPU를 집계합니다. 한때 양적 트레이딩 회사였던 이 회사는 고성능 GPU 가격이 급등하자 현 업무 으로 전환했다.

흥미로운 것들 :

1. IO-SDK는 PyTorch 및 Tensorflow와 같은 프레임 와 호환되며 다층 아키텍처 는 컴퓨팅 요구 사항에 따라 자동 및 동적으로 확장될 수 있습니다.

2. 2분 안에 시작할 수 있는 3가지 유형의 클러스터 생성을 지원합니다.

3. Render, Filecoin, Aethir 및 Exabits를 포함한 다른 DePIN 네트워크의 GPU를 통합하기 위한 강력한 공동 노력

Gensyn은 머신러닝(ML) 과 딥러닝 계산에 초점을 맞춘 GPU 컴퓨팅 기능을 제공합니다. 이는 작업 검증을 위한 학습된 증명, 검증 작업 재실행을 위한 그래프 기반 핀포인트 프로토콜, 컴퓨팅 공급자의 스테이킹 및 슬래싱을 포함하는 Truebit 스타일 인센티브 게임과 같은 개념의 조합을 사용하여 기존 방법보다 성능이 뛰어나다고 주장합니다. 보다 효율적인 검증 메커니즘.

흥미로운 것들 :

1. V100에 상응하는 GPU 시간당 비용은 약 $0.40/시간으로 예상되어 상당한 비용 절감이 가능합니다.

2. 증명 스태킹을 통해 사전 훈련된 기본 모델을 보다 구체적인 작업에 맞게 미세 조정할 수 있습니다.

3. 이러한 기본 모델은 탈중앙화 되고 전 세계적으로 소유되며 하드웨어 컴퓨팅 네트워크 이상의 추가 기능을 제공합니다.

Aethir는 기업용 GPU를 독점적으로 탑재하고 있으며 주로 인공지능, 머신러닝(ML)(ML), 클라우드 게임 등 컴퓨팅 집약적인 분야에 중점을 두고 있습니다. 네트워크의 컨테이너는 클라우드 기반 애플리케이션을 실행하기 위한 가상 엔드포인트 역할을 하며, 지연 시간이 짧은 환경을 위해 로컬 장치에서 컨테이너로 워크로드를 이동합니다. 사용자에게 고품질 서비스를 보장하기 위해 수요와 위치에 따라 GPU를 데이터 소스에 더 가깝게 이동하여 리소스를 조정합니다.

흥미로운 것들 :

1. Aethir는 인공 지능 및 클라우드 게임 외에도 클라우드 전화 서비스로 확장하고 APhone과 제휴하여 분산형 클라우드 스마트폰을 출시했습니다.

2. NVIDIA, Super Micro, HPE, Foxconn, Well Link 등 대규모 Web2 기업과의 광범위한 파트너십

3. CARV, Magic Eden, Sequence, Impossible Finance 등과 같은 Web3의 여러 파트너

Phala Network는 Web3 AI 솔루션의 실행 계층 역할을 합니다. 블록체인은 TEE(신뢰할 수 있는 실행 환경) 설계를 사용하여 개인 정보 보호 문제를 처리하는 무신뢰 클라우드 컴퓨팅 솔루션입니다. 실행 계층은 AI 모델의 컴퓨팅 계층으로 사용되지 않지만 AI 에이전트가 온체인 스마트 계약에 의해 제어될 수 있도록 합니다.

흥미로운 것들 :

1. 검증 가능한 계산을 위한 보조 프로세서 프로토콜 역할을 하는 동시에 AI 에이전트가 온체인 리소스를 사용할 수 있도록 지원합니다.

2. 인공지능 에이전시 계약을 통해 Redpill을 통해 OpenAI, Llama, Claude 및 Hugging Face와 같은 최고의 대규모 언어 모델 에 대한 액세스를 제공합니다.

3. 미래에는 zk 증명, MPC(다자간 계산), FHE(완전 동형 암호화)와 같은 다중 증명 시스템이 포함될 것입니다.

4. 앞으로는 컴퓨팅 성능 향상을 위해 H100과 같은 다른 TEE GPU도 지원될 예정입니다.

프로젝트 비교

중요성

클러스터 및 병렬 컴퓨팅의 가용성

분산 컴퓨팅 프레임 GPU 클러스터를 구현하여 모델 정확도에 영향을 주지 않으면서 보다 효율적인 교육을 제공하는 동시에 확장성을 향상시킵니다 . 더 복잡한 AI 모델을 훈련하려면 강력한 컴퓨팅 성능이 필요하며, 요구 사항을 충족하기 위해 분산 컴퓨팅에 의존해야 하는 경우가 많습니다. OpenAI의 GPT-4 모델은 1조 8천억 개가 넘는 매개변수를 갖고 있으며 128개 클러스터에서 약 25,000개의 Nvidia A100 GPU를 사용하여 3~4개월 동안 훈련되었습니다 .

이전에 Render와 Akash는 단일 목적 GPU만 제공했기 때문에 GPU에 대한 시장 수요가 제한될 수 있었습니다. 그러나 이제 대부분의 주요 프로젝트에는 클러스터를 통합하여 병렬 컴퓨팅이 가능합니다. io.net은 Render, Filecoin 및 Aethir와 같은 다른 프로젝트와 제휴하여 더 많은 GPU를 네트워크에 통합했으며 2024년 1분기에 3,800개 이상의 클러스터를 성공적으로 배포 했습니다. 렌더는 클러스터링을 지원하지 않지만 단일 프레임을 여러 개의 다른 노드로 나누어 다양한 범위의 프레임을 동시에 처리하는 방식으로 유사하게 작동합니다. Phala는 현재 CPU만 지원하지만 CPU 작업자의 클러스터링을 허용합니다.

클러스터링 프레임 AI 워크플로우 네트워크에 통합하는 것은 중요하지만 AI 개발자의 요구 사항을 충족하는 데 필요한 클러스터링 GPU의 수와 유형은 이후 섹션에서 논의할 별도의 문제입니다.

데이터 프라이버시

AI 모델을 개발하려면 다양한 소스와 형태로 제공될 수 있는 대량 데이터 세트를 사용해야 합니다. 개인 의료 기록, 사용자 금융 데이터 등 민감한 데이터 세트가 모델 제공자에게 노출될 리스크 있습니다. 삼성은 민감한 코드를 플랫폼에 업로드하는 것이 개인정보를 침해할 것이라는 우려로 내부적으로 ChatGPT 사용을 금지했으며 , 마이크로소프트의 38TB 개인 데이터 유출은 AI 사용 시 적절한 보안 조치를 취하는 것의 중요성을 더욱 부각시켰습니다. 따라서 다양한 데이터 개인 정보 보호 방법을 갖추는 것은 데이터 제어권을 데이터 제공자에게 다시 넘겨주는 데 중요합니다.

다루는 대부분의 프로젝트는 데이터 개인 정보를 보호하기 위해 특정 형태의 데이터 암호화를 사용합니다. 데이터 암호화는 네트워크를 통해 데이터 제공자에서 모델 제공자(데이터 수신자)로의 데이터 전송을 보호합니다. Render는 렌더링 결과를 네트워크에 다시 게시할 때 암호화 및 해싱을 사용하는 반면, io.net 및 Gensyn은 특정 형태의 데이터 암호화를 사용합니다. Akash는 mTLS 인증을 사용하여 테넌트가 선택한 공급자만 데이터를 수신할 수 있도록 허용합니다.

그러나 io.net은 최근 Mind Network와 제휴하여 암호화된 데이터를 먼저 해독하지 않고도 처리 할 수 있는 FHE(완전 동형 암호화)를 도입했습니다 . 이 혁신은 신원 및 데이터 콘텐츠를 공개하지 않고 교육 목적으로 데이터를 안전하게 전송할 수 있도록 함으로써 기존 암호화 기술보다 더 나은 데이터 개인 정보 보호를 보장합니다.

Phala Network는 연결된 장치의 호스트 프로세서에 있는 보안 엔클레이브인 TEE를 도입합니다. 이 격리 메커니즘을 통해 권한 수준에 관계없이 외부 프로세스가 데이터에 액세스하거나 수정하는 것을 방지합니다 . 심지어 머신에 물리적으로 액세스할 수 있는 개인도 마찬가지입니다. TEE 외에도 zkDCAP 유효성 검사기 및 RiscZero zkVM과 통합되는 프로그램용 jtee 명령줄 인터페이스에 zk 증명 사용이 통합되어 있습니다.

계산완료증명서 및 품질검사

이러한 프로젝트는 다양한 서비스에 컴퓨팅 성능을 제공하는 GPU를 제공합니다. 이러한 서비스는 그래픽 렌더링부터 AI 계산까지 다양하므로 해당 작업의 최종 품질이 항상 사용자 표준을 충족하지 못할 수도 있습니다. 완료 증명 형식을 사용하여 사용자가 임대한 특정 GPU가 실제로 필요한 서비스를 실행하는 데 사용되었으며, 품질 확인은 사용자가 해당 작업 완료를 요청하는 데 유익하다는 것을 나타낼 수 있습니다.

계산이 완료되면 Gensyn과 Aethir는 모두 작업이 완료되었음을 보여주는 증거를 생성하는 반면, io.net의 증거는 임대한 GPU의 성능이 문제 없이 완전히 활용되었음을 보여줍니다. Gensyn과 Aethir는 모두 완료된 계산에 대한 품질 검사를 수행합니다. Gensyn의 경우 검증자를 사용하여 생성된 증명의 일부를 다시 실행하여 증명을 확인하고, 내부 고발자는 검증자에 대한 또 다른 확인 계층의 역할을 합니다. 동시에 Aethir는 검사 노드를 사용하여 서비스 품질을 결정하고 수준 이하의 서비스에 불이익을 줍니다. Render는 검토 위원회에서 문제가 있다고 판단할 경우 분쟁 해결 프로세스를 사용하여 노드를 삭제할 것을 권장합니다. Phala가 완료된 후 AI 에이전트가 온체인 에서 필요한 작업을 수행하는지 확인하기 위해 TEE 인증서가 생성됩니다.

하드웨어 통계

고성능 GPU 요구 사항

AI 모델 훈련에는 최고 성능의 GPU가 필요하기 때문에 시장에서 가격이 높음에도 불구하고 최고의 품질을 제공하는 Nvidia의 A100 및 H100과 같은 GPU를 사용하는 경향이 있습니다. A100이 어떻게 모든 워크로드를 훈련할 수 있을 뿐만 아니라 더 빠르게 수행할 수 있는지를 보면 시장이 이 하드웨어를 얼마나 심각하게 받아들이고 있는지 알 수 있습니다. H100의 추론 성능은 A100보다 4배 빠르기 때문에 이제 특히 자체 LLM을 교육하는 대기업이 선택하는 GPU가 되었습니다.

탈중앙화 GPU 시장 공급자가 Web2 동료와 경쟁하려면 더 낮은 가격을 제공할 뿐만 아니라 시장의 실제 요구 사항도 충족해야 합니다. 2023년에 Nvidia는 대규모 중앙 집중식 기술 회사에 500,000개 이상의 H100 장치를 배송했기 때문에 대규모 클라우드 제공업체와 경쟁하기 위해 가능한 한 많은 동등한 하드웨어를 구입하는 것이 비용이 많이 들고 어렵습니다. 따라서 이러한 프로젝트가 더 큰 고객 기반으로 서비스를 확장하려면 저렴한 비용으로 네트워크에 가져올 수 있는 하드웨어의 양을 고려하는 것이 중요합니다.

각 프로젝트는 AI 및 ML 컴퓨팅에 업무 하지만 컴퓨팅에 제공하는 기능은 다릅니다. Akash는 총 150개가 넘는 H100 및 A100 장치를 보유하고 있으며 io.net과 Aethir는 각각 2,000개가 넘는 장치를 보유하고 있습니다. 일반적으로 LLM을 사전 훈련하거나 처음부터 모델을 생성하려면 클러스터에 최소 248개에서 2000개 이상의 GPU가 필요하므로 후자의 두 프로젝트는 대규모 모델 계산에 더 적합합니다.

이러한 개발자가 요구하는 클러스터 크기에 따라 현재 시장에 나와 있는 탈중앙화 GPU 서비스의 비용은 이미 중앙형 GPU 서비스보다 훨씬 저렴합니다. Gensyn과 Aethir는 모두 시간당 1달러 미만의 비용으로 A100에 해당하는 것을 빌릴 수 있다고 주장하지만 이는 여전히 시간이 지남에 따라 입증되어야 합니다.

네트워크 연결 GPU 클러스터는 GPU 대량 시간당 비용도 저렴하지만 한 가지 문제는 NVLink 연결 GPU에 비해 ​​메모리가 제한된다는 점입니다. NVLink는 여러 GPU 간의 직접 통신을 지원하므로 CPU와 GPU 간에 데이터를 전송할 필요가 없으므로 높은 대역폭과 낮은 대기 시간이 가능합니다. 네트워크 연결 GPU에 비해 ​​NVLink 연결 GPU는 고성능과 집약적인 컴퓨팅이 필요하기 때문에 매개변수가 많고 데이터 세트가 많은 LLMS에 가장 적합합니다.

그럼에도 불구하고 동적 작업 부하가 필요하거나 여러 노드에 작업 부하를 분산하는 유연성과 기능이 필요한 사람들에게는 탈중앙화 GPU 네트워크가 분산 컴퓨팅 작업을 위한 강력한 컴퓨팅 능력과 확장성을 제공할 수 있습니다. 중앙 집중식 클라우드 또는 데이터 제공업체에 대한 보다 비용 효율적인 대안을 제공함으로써 이러한 네트워크는 중앙 집중식 AI 모델보다 더 많은 AI 및 ML 사용 사례를 구축하기 위한 과점을 열어줍니다.

소비자급 GPU/CPU 제공

GPU는 렌더링 및 계산에 필요한 기본 처리 장치이지만 CPU도 AI 모델 훈련에 중요한 역할을 합니다. CPU는 데이터 전처리부터 메모리 리소스 관리까지 교육의 여러 부분에 사용될 수 있으며, 이는 모델을 개발하는 개발자에게 매우 유용합니다. 소비자 GPU는 이미 사전 훈련된 모델을 미세 조정하거나 더 저렴한 비용으로 더 작은 데이터 세트에서 더 작은 모델을 훈련하는 등 덜 집약적인 작업에도 사용할 수 있습니다.

Gensyn 및 Aethir와 같은 프로젝트는 주로 엔터프라이즈 GPU에 초점을 맞추고 있지만 소비자 GPU 리소스의 85% 이상이 유휴 상태라는 점을 고려하면 Render, Akash 및 io.net과 같은 다른 프로젝트도 이 시장 부문에 서비스를 제공할 수 있습니다. 이러한 옵션을 제공하면 자체 시장 틈새 시장을 개발하여 대규모 집약적 컴퓨팅, 보다 일반적인 소규모 렌더링 또는 둘 사이의 하이브리드에 집중할 수 있습니다.

결론적으로

AI DePIN 분야는 여전히 비교적 새로운 분야이며 자체적인 과제에 직면해 있습니다. 그들의 솔루션은 타당성 때문에 비판을 받았고 좌절을 겪었습니다. 예를 들어, io.net은 네트워크에서 GPU 번호를 스푸핑한 혐의로 기소되었지만 나중에 장치를 인증하고 Sybil어택 공격을 방지하기 위한 작업 증명 프로세스를 도입하여 문제를 해결했습니다.

그럼에도 불구하고 이러한 탈중앙화 GPU 네트워크에서 실행되는 작업 및 하드웨어의 수는 크게 증가했습니다. 이러한 네트워크에서 수행되는 작업량이 증가함에 따라 Web2 클라우드 공급자의 하드웨어 리소스에 대한 대안에 대한 필요성이 커지고 있습니다. 동시에 이러한 네트워크에서 하드웨어 공급자가 급증하면서 이전에는 충분히 활용되지 않았던 공급이 부각되었습니다. 이러한 추세는 AI DePIN 네트워크가 수요와 공급 측면의 과제를 모두 효과적으로 해결하므로 제품 시장 적합성을 더욱 입증합니다.

앞으로 인공 지능의 궤적은 급성장하는 수조 달러 규모의 시장을 가리키며, 우리는 이러한 분산형 GPU 네트워크가 개발자에게 비용 효율적인 컴퓨팅 대안을 제공하는 데 핵심적인 역할을 할 것이라고 믿습니다. 네트워크를 활용하여 수요와 공급 간의 격차를 지속적으로 해소함으로써 이러한 네트워크는 인공 지능 및 컴퓨팅 인프라의 미래 환경에 크게 기여할 것입니다.