AI 的奧本海默時刻,IO.NET 如何革新去中心化人工智能計算市場

作者:Raghav Agarwal、Roy Lu,LongHash Ventures

編譯:Elvin,ChainCatcher

AI 

人類正處於一個AI奧本海默時刻。

埃隆·馬斯克指出:“隨著我們技術的進步,確保 AI 服務於人民的利益,而不僅僅是權力者的利益,這是至關重要的。人民擁有的AI提供了一條前進的道路。”

在與加密貨幣的交匯處,AI可以實現自身的民主化。從開源模型開始,然後是人民的AI,由人民,為人民服務。雖然Web3 x AI的目標是高尚的,但其實際採用取決於其可用性和與現有AI軟件棧的兼容性。這就是IO.NET獨特方法和技術棧發揮作用的地方。

IO.NET的去中心化Ray框架是向web3及更廣範圍推出無需許可的AI計算市場的特洛伊木馬。

IO.NET在帶來GPU豐富性方面處於領先地位。與其他通用計算聚合器不同,IO.NET通過重寫Ray框架,將去中心化計算與行業領先的AI棧橋接起來。這種方法為在web3內外的更廣泛採用鋪平了道路。

AI民族主義背景下的計算能力競賽

在人工智能棧中,對資源的競爭愈演愈烈。過去幾年,人工智能模型大量湧現。在Llama 3發佈後的幾小時內,Mistral和OpenAI發佈了他們前沿人工智能模型的新版本。

人工智能棧中正在進行資源競爭的三個層次是:1) 訓練數據,2) 先進算法,3) 計算單元。算力允許人工智能模型通過擴展訓練數據和模型大小來提高性能。根據OpenAI對基於變換器的語言模型的經驗性研究,隨著我們增加用於訓練的計算量,性能會平穩提高。

在過去20年中,計算使用量激增。Epoch.ai對140個模型的分析顯示,自2010年以來,具有里程碑意義的系統的培訓計算每年增加了4.2倍。最新的OpenAI模型,GPT-4,需要的計算量是GPT-3的66倍,大約是GPT的120萬倍。

AI民族主義明顯

美國、中國和其他國家的鉅額投資,總計約400億美元。大部分資金將專注於生產GPU和人工智能芯片工廠。OpenAI的CEO Sam Altman計劃籌集高達7萬億美元的資金,以增強全球人工智能芯片製造,強調“計算將成為未來的貨幣”。

聚合長尾計算資源可能會顯著擾亂市場。中心化雲服務提供商如AWS、Azure和GCP面臨的挑戰包括長時間的等待、有限的GPU靈活性和繁瑣的長期合同,特別是對於較小的實體和初創公司而言困難更大。

數據中心、加密貨幣礦工和消費級GPU的未充分利用的硬件可以滿足需求。2022年DeepMind的一項研究發現,在更多數據上訓練較小的模型通常比使用最新、最強大的GPU更有效,這表明朝著使用可訪問的GPU進行更有效的人工智能訓練的轉變。

IO.NET 結構性地顛覆了人工智能計算市場

IO.NET結構性地顛覆了全球人工智能計算市場。IO.NET的全球分佈式人工智能訓練、推理和微調的端到端平臺,聚合了長尾GPU,以解鎖廉價的高性能訓練。

GPU市場:

IO.NET從全球的數據中心、礦工和消費者那裡聚合GPU。人工智能初創公司可以在幾分鐘內部署去中心化的GPU集群,只需指定集群位置、硬件類型、機器學習棧(Tensorflow、PyTorch、Kubernetes),並立即在Solana上支付。

集群:

沒有適配的並行基礎設施的GPU就好比沒有電源線的反應堆,雖然存在但無法使用。正如OpenAI博客所強調的,硬件和算法並行性的限制顯著影響了每個模型的計算效率,限制了模型的大小和訓練期間的有用性。

IO.NET 利用 Ray 框架將數千個 GPU 集群轉換為一個統一整體。這一創新使 IO.NET 能夠組建 GPU 集群,而不受地理位置分散的影響,進而解決了計算市場上的一大難題。

Ray 框架脫穎而出

作為一個開源的統一計算框架,Ray簡化了人工智能和Python工作負載的擴展。Ray被Uber、Spotify、LinkedIn和Netflix等行業領導者所採用,促進了人工智能集成到他們的產品和服務中。微軟為客戶提供在Azure上部署Ray的機會,而Google Kubernetes Engine (GKE) 通過支持Kubeflow和Ray,簡化了開源機器學習軟件的部署。

Ahmad在2023年Ray峰會上展示他關於去中心化Ray框架的工作

去中心化Ray - 擴展Ray以進行全球推理(視頻鏈接:https://youtu.be/ie-EAlGfTHA?)

我們最初是在Tory擔任金融科技高增長初創公司的COO時遇見他的,我們知道他是一個具有數十年經驗的高級運營者,能夠將初創公司擴展到卓有成效的程度。與Ahmad和Tory交談後,我們立即意識到這是將去中心化人工智能計算帶到web3及更廣範圍的夢想團隊。

Ahmad的創意結晶,IO.NET,是在實際應用中的一個頓悟時刻誕生的。開發Dark Tick,一種用於超低延遲高頻交易的算法,需要大量的GPU資源。為了應對成本問題,Ahmad開發了一個去中心化的Ray框架版本,從加密貨幣礦工那裡集群GPU,無意中打造了一個解決更廣泛人工智能計算挑戰的彈性基礎設施。

發展勢頭:

通過利用代幣激勵,截至2024年中期,IO.NET已經上線了超過10萬個GPU和2萬個集群就緒的GPU,包括大量的NVIDIA H100和A100。Krea.ai已經在利用io.net的去中心化雲服務,IO Cloud,來驅動他們的人工智能模型推理。IO.NET最近宣佈與NavyAI、Synesis One、RapidNode、Ultiverse、Aethir、Flock.io、LeonardoAI、Synthetic AI等多個項目合作。

通過依賴全球分佈式的GPU網絡,IO.NET可以:

  • 與中心化雲服務提供商相比,通過允許推理更接近其終端用戶,從而降低客戶的推理時間
  • 通過高度集成的網絡骨幹連接多個數據中心,將資源組織成區域,從而提高彈性
  • 降低計算資源的成本和訪問時間
  • 允許公司動態擴展和縮小槓桿資源的規模
  • 使GPU提供者能夠從他們的硬件投資中獲得更好的收益

IO.NET通過去中心化Ray框架站在了創新的前沿。利用Ray Core和Ray Serve,他們的分佈式GPU集群在去中心化GPU上高效地編排任務。

結論

推動開源人工智能模型是對原始互聯網協作精神的認可,人們可以無需許可地接入HTTP和SMTP。

眾包GPU網絡的出現是無需許可精神的自然演變。通過眾包長尾GPU,IO.NET正在打開通往寶貴計算資源的閘門,創造一個公平透明的市場,防止權力集中在少數人手中。

我們相信 IO.NET 通過去中心化的 Ray 集群技術實現人工智能計算即貨幣的願景。在這個日益由 "富人 "和 "窮人 "組成的世界裡,IO.NET 最終將 "讓互聯網再次開放"。 

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論