저자: Raghav Agarwal, Roy Lu, LongHash Ventures
편집자: Elvin, ChainCatcher
일체 포함
인류는 AI 오펜하이머 시대에 있습니다.
Elon Musk는 다음과 같이 말했습니다. “우리 기술이 발전함에 따라 AI가 권력자의 이익뿐만 아니라 앞으로 나아갈 길을 제공하는 것이 중요합니다.”
암호화폐와의 교차점에서 AI는 스스로 민주화될 수 있습니다. 오픈 소스 모델로 시작한 다음 사람을 위한, 사람에 의한, 사람을 위한 AI로 시작하세요. Web3 x AI의 목표는 숭고하지만 실제 채택은 기존 AI 소프트웨어 스택과의 유용성 및 호환성에 따라 달라집니다. IO.NET의 독특한 접근 방식과 기술 스택이 작용하는 곳이 바로 여기입니다.
IO.NET의 탈중앙화 Ray 프레임 는 무허가 AI 컴퓨팅 시장을 web3 이상으로 출시하기 위한 트로이 목마입니다.
IO.NET은 풍부한 GPU를 제공하는 데 앞장서고 있습니다. 다른 범용 컴퓨팅 수집기와 달리 IO.NET은 Ray 프레임 다시 작성하여 탈중앙화 컴퓨팅을 업계 최고의 AI 스택과 연결합니다. 이 접근 방식은 web3 및 그 이상에서 더 폭넓게 채택될 수 있는 길을 열어줍니다.
AI 민족 맥락에서 컴퓨팅 파워 경쟁
AI 스택 전체에서 리소스 경쟁이 심화되고 있습니다. 지난 몇 년 동안 인공 지능 모델이 대량 되었습니다. Llama 3가 출시된 지 몇 시간 만에 Mistral과 OpenAI는 최첨단 인공 지능 모델의 새 버전을 출시했습니다.
리소스를 두고 경쟁하는 AI 스택의 세 가지 수준은 1) 훈련 데이터, 2) 고급 알고리즘, 3) 컴퓨팅 유닛입니다. 해시레이트 통해 AI 모델은 훈련 데이터와 모델 크기를 확장하여 성능을 향상시킬 수 있습니다. OpenAI의 변환기 기반 언어 모델에 대한 실증적 연구에 따르면 훈련에 사용되는 계산량이 늘어날수록 성능이 꾸준히 향상됩니다.
컴퓨팅 사용량은 지난 20년 동안 폭발적으로 증가했습니다. Epoch.ai가 140개 모델을 분석한 결과, 랜드마크 시스템의 훈련 계산량이 2010년 이후 매년 4.2배 증가한 것으로 나타났습니다. 최신 OpenAI 모델인 GPT-4는 GPT-3보다 66배, GPT보다 약 120만배의 계산이 필요합니다.
AI 민족 는 뻔하다
미국, 중국, 기타 국가에서 총 400억 달러에 달하는 막대한 투자가 이루어졌습니다. 자금의 대부분은 GPU와 인공지능 칩 공장 생산에 집중될 예정이다. OpenAI CEO인 샘 알트만(Sam Altman)은 "컴퓨팅이 미래의 통화가 될 것"이라고 강조하면서 글로벌 인공지능 칩 제조를 강화하기 위해 최대 7조 달러의 자금을 조달할 계획입니다.
롱테일 컴퓨팅 리소스를 통합하면 시장에 큰 혼란을 가져올 수 있습니다. AWS, Azure, GCP와 같은 중앙 집중식 클라우드 서비스 제공업체가 직면한 과제에는 긴 대기 시간, 제한된 GPU 유연성, 특히 소규모 기업과 스타트업의 경우 번거로운 장기 계약이 포함됩니다.
데이터 센터, 암호화폐 채굴기, 소비자급 GPU에서 활용도가 낮은 하드웨어로 수요를 충족할 수 있습니다. 2022년 DeepMind 연구에 따르면 더 많은 데이터로 소규모 모델을 훈련하는 것이 가장 강력한 최신 GPU를 사용하는 것보다 더 효율적인 경우가 많으며, 이는 보다 효율적인 AI 훈련을 위해 접근 가능한 GPU를 사용하는 방향으로의 전환을 의미합니다.
IO.NET은 인공 지능 컴퓨팅 시장을 구조적으로 혼란에 빠뜨립니다.
IO.NET은 글로벌 인공지능 컴퓨팅 시장을 구조적으로 붕괴시켰습니다. 전 세계적으로 분산된 AI 교육, 추론 및 미세 조정을 위한 IO.NET의 엔드 투 엔드 플랫폼은 롱테일 GPU를 통합하여 저렴한 고성능 교육을 제공합니다.
GPU 시장:
IO.NET은 전 세계 데이터 센터, 채굴자 및 소비자의 GPU를 집계합니다. AI 스타트업은 클러스터 위치, 하드웨어 유형, 머신러닝(ML) 스택(Tensorflow, PyTorch, Kubernetes)을 지정하고 Solana에서 즉시 비용을 지불함으로써 탈중앙화 GPU 클러스터를 몇 분 안에 배포할 수 있습니다.
무리:
적응된 병렬 인프라가 없는 GPU는 전원 코드가 없지만 사용할 수 없는 원자로와 같습니다. OpenAI 블로그가 강조한 것처럼 하드웨어 및 알고리즘 병렬성의 한계는 각 모델의 계산 효율성에 큰 영향을 미치고 훈련 중 모델 크기와 유용성을 제한합니다.
IO.NET은 Ray 프레임 활용하여 수천 개의 GPU 클러스터를 통합된 전체로 변환합니다. 이러한 혁신을 통해 IO.NET은 지리적 분산에 관계없이 GPU 클러스터를 형성하여 컴퓨팅 시장의 주요 문제를 해결할 수 있습니다.
Ray 프레임 눈에 띕니다
오픈 소스 통합 컴퓨팅 프레임 인 Ray는 인공 지능 및 Python 워크로드의 확장을 단순화합니다. Ray는 Uber, Spotify, LinkedIn, Netflix와 같은 업계 리더들이 자사 제품 및 서비스에 인공 지능을 통합하는 것을 촉진하는 데 사용됩니다. Microsoft는 고객에게 Azure에 Ray를 배포할 수 있는 기회를 제공하고, Google Kubernetes Engine(GKE)은 Kubeflow 및 Ray를 지원하여 오픈 소스 머신러닝(ML) 소프트웨어 배포를 단순화합니다.
Ahmad는 Ray Summit 2023에서 탈중앙화 Ray 프레임 에 대한 작업을 발표합니다.
탈중앙화 Ray - 전역 추론을 위한 Ray 확장(동영상 링크: https://youtu.be/ie-EAlGfTHA?)
우리는 Tory가 고성장 핀테크 스타트업의 COO였을 때 처음 만났고, 그가 스타트업을 유익한 수준으로 확장한 수십 년의 경험을 가진 수석 운영자라는 것을 알았습니다. Ahmad 및 Tory와 이야기를 나눈 후 우리는 이것이 탈중앙화 드림 팀이라는 것을 즉시 알았습니다.
Ahmad의 아이디어인 IO.NET은 실제로 사용되는 순간에 탄생했습니다. 대기 시간이 매우 짧은 고주파 거래를 위한 알고리즘인 Dark Tick을 개발하려면 대량 GPU 리소스가 필요합니다. 비용 문제를 해결하기 위해 Ahmad는 암호화폐 채굴기의 GPU를 클러스터링하는 Ray 프레임 의 탈중앙화 버전을 개발하여 실수로 광범위한 AI 컴퓨팅 문제를 해결하는 탄력적인 인프라를 만들었습니다.
개발 추진력:
토큰 인센티브를 활용하여 IO.NET은 2024년 중반 현재 대량 의 NVIDIA H100 및 A100을 포함하여 100,000개 이상의 GPU와 20,000개 이상의 클러스터 지원 GPU를 온라인으로 보유하고 있습니다. Krea.ai는 이미 io.net의 탈중앙화 클라우드 서비스인 IO Cloud를 활용하여 AI 모델 추론을 추진하고 있습니다. IO.NET은 최근 NavyAI, Synesis One, RapidNode, Ultiverse, Aethir, Flock.io, LeonardoAI, Synthetic AI 및 기타 여러 프로젝트와의 협력을 발표했습니다.
IO.NET은 전 세계적으로 분산된 GPU 네트워크를 활용하여 다음을 수행할 수 있습니다.
- 중앙 집중식 클라우드 서비스 제공업체에 비해 최종 사용자에게 더 가까운 추론을 허용하여 고객의 추론 시간을 줄입니다.
- 고도로 통합된 네트워크 백본으로 여러 데이터 센터를 연결하고 리소스를 영역으로 구성하여 탄력성을 높입니다.
- 컴퓨팅 리소스의 비용 및 액세스 시간을 줄입니다.
- 기업이 활용 리소스의 크기를 동적으로 확장 및 축소할 수 있습니다.
- GPU 제공업체가 하드웨어 투자로부터 더 나은 수익을 얻을 수 있도록 지원
IO.NET은 탈중앙화 Ray 프레임 통해 혁신의 최전선에 있습니다. Ray Core 및 Ray Serve를 활용하여 분산 GPU 클러스터는 탈중앙화 GPU에서 작업을 효율적으로 조정합니다.
결론적으로
오픈 소스 AI 모델에 대한 추진은 사람들이 허가 없이 HTTP와 SMTP를 이용할 수 있었던 원래 인터넷의 협력 정신에 대한 고개를 끄덕이는 것입니다.
크라우드 소싱 GPU 네트워크의 출현은 무허가 정신의 자연스러운 진화입니다. 롱테일 GPU를 크라우드소싱함으로써 IO.NET은 귀중한 컴퓨팅 리소스에 대한 수문을 열어 공정하고 투명한 시장을 만들고 소수의 손에 권력이 집중되는 것을 방지합니다.
우리는 IO.NET이 탈중앙화 Ray 클러스터 기술을 통해 인공지능 컴퓨팅의 비전을 화폐로 실현한다고 믿습니다. "가진 자"와 "가진 자"가 점점 더 많아지는 세상에서 IO.NET은 마침내 "인터넷을 다시 개방"하게 될 것입니다.
