데이터가 주도하는 현 시대에 인공지능(AI) 기술은 전례 없는 속도로 발전하고 있습니다. 특히, AI 대형 모델의 훈련은 지속적으로 기술 경계를 넓혀 상당한 과제를 제시하고 있습니다. 이러한 맥락에서 분산형 분산 컴퓨팅 네트워크는 AI 대형 모델을 훈련하는 데 중요한 역할을 하지만 상당한 기술적 병목 현상과 과제에 직면해 있습니다.
분산형 네트워크의 주요 요구 사항 중 하나는 AI 대형 모델 교육을 지원하는 것입니다. 그러나 이 프로세스에는 데이터 동기화 및 네트워크 최적화와 관련된 복잡한 문제가 포함되며, 이 문제의 해결은 컴퓨팅 네트워크의 효율성과 효과를 보장하는 데 중요합니다. 또한 데이터 개인 정보 보호 및 보안은 필수 요소입니다. 데이터 개인정보 보호를 보장하면서 효과적인 모델 훈련을 달성하는 문제를 해결하는 것이 시급한 과제입니다.
현재 안전한 다자간 계산, 차등 개인 정보 보호, 연합 학습, 동형 암호화 등과 같은 기술은 특정 시나리오에서 이점을 보여줍니다. 그러나 특히 대규모 분산 컴퓨팅 네트워크에서 데이터 개인 정보 보호 문제를 처리할 때 제한 사항이 있습니다. 예를 들어, 영지식 증명(ZKP) 기술은 상당한 잠재력을 갖고 있지만 광범위한 분산 컴퓨팅 네트워크에서 대규모 모델을 교육하는 데 적용하려면 수년간의 연구 개발이 필요합니다. 이를 위해서는 학계의 더 많은 관심과 자원이 필요할 뿐만 아니라 상당한 기술 비용과 실제 적용 문제에 직면해 있습니다.
모델 훈련과 비교하여, 분산형 분산 컴퓨팅 네트워크는 모델 추론에서 더 큰 실용적인 잠재력을 보여줍니다. 이 분야에서 예상되는 성장 공간은 앞으로도 상당할 것으로 예상됩니다. 그럼에도 불구하고 추론 프로세스는 여전히 통신 지연, 데이터 개인정보 보호, 모델 보안과 같은 문제에 직면하고 있습니다. 계산 복잡성과 데이터 상호 작용성이 낮기 때문에 모델 추론은 분산형 환경에 더 적합하지만 이러한 과제를 극복하는 것은 여전히 심층 탐구할 가치가 있는 주제로 남아 있습니다.
이러한 배경에서 우리는 Akash Network, Gensyn 및 Together와 같은 분산형 분산 컴퓨팅 네트워크의 대표적인 프로젝트를 더 자세히 살펴볼 것입니다. 이번 탐구의 목표는 생산의 미래를 재편할 수 있는 잠재력을 지닌 이 트랙에 대한 더 깊은 이해를 얻는 것입니다.
Akash Network: 토큰을 통해 글로벌 유휴 컴퓨팅 성능을 장려하는 완전 오픈 소스 P2P 클라우드 시장
Akash Network는 분산형 P2P 클라우드 시장 구축을 중심으로 클라우드 서비스를 찾는 사용자와 잉여 컴퓨팅 리소스를 보유한 인프라 제공업체를 연결하는 오픈 소스 플랫폼입니다.
Akash의 플랫폼은 배포를 호스팅하고 관리하는 동시에 Kubernetes 워크로드 실행을 위한 클라우드 관리 서비스를 제공하도록 특별히 설계되었습니다. 본질적으로 Kubernetes는 컨테이너화된 애플리케이션의 배포, 확장 및 관리를 자동화하는 데 사용되는 오픈 소스 시스템입니다.
Akash 플랫폼에서 "테넌트"라고 불리는 사용자는 주로 특정 표준을 충족하는 클라우드 공급자에게 Docker 컨테이너를 배포하려는 개발자입니다. Docker 컨테이너의 필수 기능은 패키지된 코드와 종속성을 포함하여 애플리케이션이 모든 컴퓨팅 환경에서 동일한 방식으로 실행되도록 보장한다는 것입니다. 이는 노트북에서 개발하든, 샌드박스에서 테스트하든, 클라우드에서 실행하든 코드 수정이 필요하지 않음을 의미합니다.
Akash 시장의 독특한 측면은 역경매 모델입니다. 이 모델을 통해 사용자는 독립적으로 가격을 설정하고 컨테이너 배포에 필요한 리소스 요구 사항을 설명할 수 있습니다. 클라우드 제공업체 컴퓨팅 리소스의 활용도가 낮을 경우 Airbnb 호스트가 여유 공간을 임대하는 것과 유사하게 Akash 시장을 통해 이러한 리소스를 임대할 수 있습니다. Akash를 통해 컨테이너를 배포하는 비용이 3대 클라우드 서비스 제공업체(Amazon Web Services, Google Cloud, Microsoft Azure)의 약 10분의 1 수준이라는 점은 주목할 만합니다.
Akash 네트워크의 모든 거래와 기록은 Akash 토큰(AKT)이라는 토큰을 통해 온체인으로 수행됩니다. 이 네트워크는 Cosmos SDK 프레임워크에 블록체인을 구축하고 Tendermint BFT(Byzantine Fault Tolerance) 엔진을 활용하여 위임 지분 증명(DPoS) 합의 알고리즘을 지원합니다. AKT는 교환 매체 역할뿐만 아니라 네트워크 보안 보장, 보상 제공, 네트워크 거버넌스 참여, 거래 처리 등 Akash 네트워크에서 다양한 역할을 수행합니다.
이러한 방식으로 Akash Network는 보다 경제적으로 효율적인 클라우드 서비스 옵션을 제공할 뿐만 아니라 현대 클라우드 컴퓨팅 도메인에서 블록체인 기술의 혁신적인 적용을 보여줍니다.
Gensyn: 복잡한 기계 학습 작업을 여러 하위 작업으로 분할하여 처리 효율성 향상
Gensyn은 인공 지능 컴퓨팅 시장의 요구를 해결하기 위해 특별히 설계된 블록체인 기반 분산형 딥 러닝 컴퓨팅 프로토콜입니다. 이 프로토콜의 핵심은 복잡한 기계 학습 작업을 여러 하위 작업으로 나누고 참가자의 컴퓨팅 리소스를 통해 고도로 병렬화된 컴퓨팅을 달성하는 데 있습니다. . 이 접근 방식은 계산 효율성을 향상시킬 뿐만 아니라 스마트 계약을 통해 작업 할당, 검증 및 보상을 자동화하여 중앙 집중식 관리가 필요하지 않습니다.
2023년 6월, 팀은 유명한 벤처 캐피탈 회사인 a16z가 주도하는 4,300만 달러 규모의 시리즈 A 자금 조달 라운드를 성공적으로 완료하여 총 자금을 5,000만 달러에 이르렀습니다.
Gensyn 프로토콜은 다음과 같은 주요 기능을 갖춘 지능형 계산 네트워크로 기능합니다.
1. 확률적 학습 증명: 그라디언트 최적화 프로세스의 메타데이터를 활용하여 작업 완료 인증서를 구성하여 작업 완료를 신속하게 확인할 수 있습니다.
2. 그래프 기반 포지셔닝 프로토콜: 교차 검증 실행과 결합된 다중 입도, 그래프 기반 포지셔닝 프로토콜을 채택하여 작업 검증의 일관성을 보장합니다.
3.Truebit 스타일 인센티브 메커니즘: 참가자의 정직한 작업 이행을 보장하기 위해 스테이킹 및 슬래싱 메커니즘을 통해 인센티브 게임을 구성합니다. 또한 Gensyn 시스템에는 네 가지 주요 역할이 포함됩니다.
1. 제출자: 계산 작업을 제공하고 수수료를 지불하는 시스템의 최종 사용자입니다.
2.Solver: 모델 훈련을 실행하고 검증자의 검증을 위한 증거를 생성합니다.
3. 검증자: 솔버가 제공한 증명의 정확성을 검증하는 역할을 담당합니다.
4. 내부 고발자: 보안 조치 역할을 하고 검증자의 작업을 검토하며 문제가 확인되면 우려를 제기합니다.
Gensyn 프로토콜은 비용 및 성능 측면에서 상당한 이점을 나타냅니다. 예를 들어, 이더리움이 작업 증명에서 지분 증명으로 전환한 것과 비교하여 Gensyn은 참가자에게 계산 리소스를 활용하고 계산 비용을 줄이며 리소스 활용도를 향상시켜 수익을 얻을 수 있는 방법을 제공합니다. Python 시뮬레이션 결과에 따르면 Gensyn의 모델 훈련에 소요되는 시간은 약 46% 증가했지만 다른 방법에 비해 성능이 크게 향상되었습니다.
블록체인 기반 분산형 컴퓨팅 파워 프로토콜인 Gensyn은 AI 모델 훈련을 가속화하고 비용을 절감하기 위해 스마트 계약을 통해 기계 학습 작업을 할당하고 보상하는 것을 목표로 합니다. 통신 및 개인 정보 보호와 같은 문제에 직면했음에도 불구하고 Gensyn은 더 광범위하고 유연한 애플리케이션에 대한 다양한 모델 규모와 요구 사항을 고려하여 유휴 컴퓨팅 성능을 활용하는 효과적인 방법을 제공합니다.
함께: 대규모 모델 개발 및 응용에 집중, 종자 자금 2천만 달러
Together는 대형 모델의 개발 및 적용에 중점을 두고 분산형 AI 컴퓨팅 파워 솔루션을 제공하는 데 전념하는 오픈 소스 회사입니다. 회사의 비전은 누구나 어디서나 AI에 접근할 수 있도록 하는 것입니다. 올해 5월 투게더는 Lux Capital이 주도하는 2,000만 달러의 시드 펀딩 라운드를 완료했습니다. Chris, Percy, Ce가 설립한 Together는 대규모 모델 훈련에 필요한 상당한 고급 GPU 클러스터와 값비싼 지출에 대한 인식에서 시작되었습니다. 그들은 모델 훈련을 위한 이러한 자원과 역량이 몇몇 대기업의 손에 집중되어서는 안 된다고 믿습니다.
Together의 개발 전략은 오픈 소스 모델의 적용과 분산 컴퓨팅 성능을 강조합니다. 그들은 분산형 컴퓨팅 전력 네트워크를 사용하기 위한 전제 조건은 모델이 오픈 소스여야 한다는 것이며, 이를 통해 비용과 복잡성을 줄이는 데 도움이 된다고 믿습니다. 최근 사례로는 일련의 완전 오픈 소스 대규모 언어 모델 개발을 목표로 여러 연구 팀과 협력하여 시작된 LLaMA 기반 RedPajama 프로젝트가 있습니다.
모델 추론 영역에서 Together의 개발 팀은 RedPajama-INCITE-3B 모델에 대한 일련의 업데이트를 수행했습니다. 여기에는 비용 효율적인 미세 조정을 위해 LoRA를 활용하여 CPU에서 모델의 효율성을 향상시키는 것이 포함됩니다. 모델 훈련의 경우, Together는 스케줄링 및 통신 압축의 최적화를 포함하여 분산형 훈련의 통신 병목 현상을 해결하고 있습니다.
투게더 팀의 다양한 전문 지식은 대규모 모델 개발부터 클라우드 컴퓨팅 및 하드웨어 최적화에 이르기까지 다양한 영역에 걸쳐 있으며, AI 컴퓨팅 프로젝트에 대한 포괄적인 접근 방식을 보여줍니다. 그들의 전략은 오픈 소스 대형 모델 개발, 모델 추론에서 분산 컴퓨팅 성능 적용 테스트, 대규모 모델 교육에서 분산 컴퓨팅 성능 배포 등 장기적인 관점을 반영합니다.
프로젝트의 초기 단계를 고려할 때 네트워크 인센티브 메커니즘 및 토큰 사용 사례와 같은 중요한 세부 정보는 공개되지 않습니다. 이러한 요소는 암호화폐 프로젝트의 성공에 매우 중요합니다. 따라서 업계에서는 Together의 향후 개발 및 추가 공개에 큰 관심을 갖고 있습니다.
분산형 AI의 미래는 광대하지만, 그 안의 과제는 점진적으로 극복해야 합니다.
분산형 컴퓨팅 파워 네트워크와 AI 기술의 융합을 살펴보면 도전과 잠재력이 가득한 분야가 드러납니다. 서로 다른 영역임에도 불구하고 AI와 Web3의 결합은 분산 기술을 사용하여 AI 독점을 억제하고 분산 합의 메커니즘의 형성을 촉진한다는 점에서 자연스러운 시너지 효과를 나타냅니다. 분산 컴퓨팅 파워 네트워크는 분산 컴퓨팅 기능과 개인 정보 보호를 제공할 뿐만 아니라 AI 모델의 신뢰성과 신뢰성을 향상시켜 신속한 배포와 실행을 지원합니다.
그러나 이 분야의 발전에는 장애물이 없지는 않습니다. 중앙 집중식 컴퓨팅 전력 네트워크의 높은 통신 비용은 분산형 네트워크에 심각한 문제를 제기하므로 노드 안정성과 보안을 보장하고 분산형 컴퓨팅 리소스를 효과적으로 관리하기 위한 솔루션이 필요합니다.
상업적 현실로 돌아가서 AI와 Web3의 심층 통합은 유망하지만 높은 연구 개발 비용과 불분명한 비즈니스 모델과 같은 과제에 직면해 있습니다. AI 및 Web3와 같은 도메인은 아직 개발 초기 단계에 있으며, 이들의 진정한 잠재력은 시간이 지남에 따라 검증되기를 기다리고 있습니다.
