AI 的奧本海默時刻,io.net 如何革新去中心化人工智能計算市場

rounded

撰文:Raghav Agarwal、Roy Lu,LongHash Ventures

編譯:Elvin,ChainCatcher

AI

人類正處於一個 AI 奧本海默時刻。

埃隆·馬斯克指出:「隨著我們技術的進步,確保 AI 服務於人民的利益,而不僅僅是權力者的利益,這是至關重要的。人民擁有的 AI 提供了一條前進的道路。」

在與加密貨幣的交匯處,AI 可以實現自身的民主化。從開源模型開始,然後是人民的 AI,由人民,為人民服務。雖然 Web3 x AI 的目標是高尚的,但其實際採用取決於其可用性和與現有 AI 軟件棧的兼容性。這就是 IO.NET 獨特方法和技術棧發揮作用的地方。

IO.NET 的去中心化 Ray 框架是向 web3 及更廣範圍推出無需許可的 AI 計算市場的特洛伊木馬。

IO.NET 在帶來 GPU 豐富性方面處於領先地位。與其他通用計算聚合器不同,IO.NET 通過重寫 Ray 框架,將去中心化計算與行業領先的 AI 棧橋接起來。這種方法為在 web3 內外的更廣泛採用鋪平了道路。

AI 民族主義背景下的計算能力競賽

在人工智能棧中,對資源的競爭愈演愈烈。過去幾年,人工智能模型大量湧現。在 Llama 3 發佈後的幾小時內,Mistral 和 OpenAI 發佈了他們前沿人工智能模型的新版本。

人工智能棧中正在進行資源競爭的三個層次是:1) 訓練數據,2) 先進算法,3) 計算單元。算力允許人工智能模型通過擴展訓練數據和模型大小來提高性能。根據 OpenAI 對基於變換器的語言模型的經驗性研究,隨著我們增加用於訓練的計算量,性能會平穩提高。

在過去 20 年中,計算使用量激增。Epoch.ai 對 140 個模型的分析顯示,自 2010 年以來,具有里程碑意義的系統的培訓計算每年增加了 4.2 倍。最新的 OpenAI 模型,GPT-4,需要的計算量是 GPT-3 的 66 倍,大約是 GPT 的 120 萬倍。

AI 民族主義明顯

美國、中國和其他國家的鉅額投資,總計約 400 億美元。大部分資金將專注於生產 GPU 和人工智能芯片工廠。OpenAI 的 CEO Sam Altman 計劃籌集高達 7 萬億美元的資金,以增強全球人工智能芯片製造,強調「計算將成為未來的貨幣」。

聚合長尾計算資源可能會顯著擾亂市場。中心化雲服務提供商如 AWS、Azure 和 GCP 面臨的挑戰包括長時間的等待、有限的 GPU 靈活性和繁瑣的長期合同,特別是對於較小的實體和初創公司而言困難更大。

數據中心、加密貨幣礦工和消費級 GPU 的未充分利用的硬件可以滿足需求。2022 年 DeepMind 的一項研究發現,在更多數據上訓練較小的模型通常比使用最新、最強大的 GPU 更有效,這表明朝著使用可訪問的 GPU 進行更有效的人工智能訓練的轉變。

IO.NET 結構性地顛覆了人工智能計算市場

IO.NET 結構性地顛覆了全球人工智能計算市場。IO.NET 的全球分佈式人工智能訓練、推理和微調的端到端平臺,聚合了長尾 GPU,以解鎖廉價的高性能訓練。

GPU 市場:

IO.NET 從全球的數據中心、礦工和消費者那裡聚合 GPU。人工智能初創公司可以在幾分鐘內部署去中心化的 GPU 集群,只需指定集群位置、硬件類型、機器學習棧(Tensorflow、PyTorch、Kubernetes),並立即在 Solana 上支付。

集群:

沒有適配的並行基礎設施的 GPU 就好比沒有電源線的反應堆,雖然存在但無法使用。正如 OpenAI 博客所強調的,硬件和算法並行性的限制顯著影響了每個模型的計算效率,限制了模型的大小和訓練期間的有用性。

IO.NET 利用 Ray 框架將數千個 GPU 集群轉換為一個統一整體。這一創新使 IO.NET 能夠組建 GPU 集群,而不受地理位置分散的影響,進而解決了計算市場上的一大難題。

Ray 框架脫穎而出

作為一個開源的統一計算框架,Ray 簡化了人工智能和 Python 工作負載的擴展。Ray 被 Uber、Spotify、LinkedIn 和 Netflix 等行業領導者所採用,促進了人工智能集成到他們的產品和服務中。微軟為客戶提供在 Azure 上部署 Ray 的機會,而 Google Kubernetes Engine (GKE) 通過支持 Kubeflow 和 Ray,簡化了開源機器學習軟件的部署。

Ahmad 在 2023 年 Ray 峰會上展示他關於去中心化 Ray 框架的工作

去中心化 Ray - 擴展 Ray 以進行全球推理(視頻鏈接:https://youtu.be/ie-EAlGfTHA?)

我們最初是在 Tory 擔任金融科技高增長初創公司的 COO 時遇見他的,我們知道他是一個具有數十年經驗的高級運營者,能夠將初創公司擴展到卓有成效的程度。與 Ahmad 和 Tory 交談後,我們立即意識到這是將去中心化人工智能計算帶到 web3 及更廣範圍的夢想團隊。

Ahmad 的創意結晶,IO.NET,是在實際應用中的一個頓悟時刻誕生的。開發 Dark Tick,一種用於超低延遲高頻交易的算法,需要大量的 GPU 資源。為了應對成本問題,Ahmad 開發了一個去中心化的 Ray 框架版本,從加密貨幣礦工那裡集群 GPU,無意中打造了一個解決更廣泛人工智能計算挑戰的彈性基礎設施。

發展勢頭:

通過利用代幣激勵,截至 2024 年中期,IO.NET 已經上線了超過 10 萬個 GPU 和 2 萬個集群就緒的 GPU,包括大量的 NVIDIA H100 和 A100。Krea.ai 已經在利用 io.net 的去中心化雲服務,IO Cloud,來驅動他們的人工智能模型推理。IO.NET 最近宣佈與 NavyAI、Synesis One、RapidNode、Ultiverse、Aethir、Flock.io、LeonardoAI、Synthetic AI 等多個項目合作。

通過依賴全球分佈式的 GPU 網絡,IO.NET 可以:

  • 與中心化雲服務提供商相比,通過允許推理更接近其終端用戶,從而降低客戶的推理時間
  • 通過高度集成的網絡骨幹連接多個數據中心,將資源組織成區域,從而提高彈性
  • 降低計算資源的成本和訪問時間
  • 允許公司動態擴展和縮小槓桿資源的規模
  • 使 GPU 提供者能夠從他們的硬件投資中獲得更好的收益

IO.NET 通過去中心化 Ray 框架站在了創新的前沿。利用 Ray Core 和 Ray Serve,他們的分佈式 GPU 集群在去中心化 GPU 上高效地編排任務。

結論

推動開源人工智能模型是對原始互聯網協作精神的認可,人們可以無需許可地接入 HTTP 和 SMTP。

眾包 GPU 網絡的出現是無需許可精神的自然演變。通過眾包長尾 GPU,IO.NET 正在打開通往寶貴計算資源的閘門,創造一個公平透明的市場,防止權力集中在少數人手中。

我們相信 IO.NET 通過去中心化的 Ray 集群技術實現人工智能計算即貨幣的願景。在這個日益由「富人」和「窮人」組成的世界裡,IO.NET 最終將「讓互聯網再次開放」。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
7
收藏
2
評論
1