對話io.net:閒置GPU再利用,去中心化AI算力平臺如何實現?

avatar
PANews
04-08

io.net 是基於 Solana 區塊鏈的網絡,允許擁有閒置算力的用戶向資源密集型的人工智能公司提供算力。此前,io.net 完成了其 A 輪融資,估值達到 10 億美元,籌集了 3000 萬美元,由 Hack VC 領投,Multicoin Capital、Animoca Brands、Solana Ventures、Aptos、OKX Ventures 等參投。本期吳說英文播客邀請了 io.net 的首席戰略官兼首席市場官 Garrison Yang(0xHushey),討論了 io.net 的技術優勢、未來發展計劃以及如何解決人工智能和雲計算行業的痛點等問題。

本文內容僅代表受訪者觀點,不代表吳說觀點,不提供任何財務建議,請讀者嚴格遵守所在地法律法規。

文字概要由 GPT 處理,可能存在錯誤,全文請收聽播客:

Youtube:https://youtu.be/HSBBGT5Vqvg

io.net 是什麼?

io.net 正在建設世界上最大的 AI 計算網絡,我們的目標本質上是建立一個去中心化的,能與 AWS(亞馬遜網絡服務)競爭的對手。該項目始於 2020年,當時我們的創始人兼 CEO 在開發算法交易的定量模型時,尋求更經濟的算力資源。即使在 2020年,從 AWS 和 Azure 購買算力的成本也被證明是過於昂貴的。因此,他探索了全球,包括在沙特阿拉伯和亞太地區的獨立數據中心,以及在使用中的加密礦工處的算力資源。他將這些資源互聯,從各種地理分佈的位置獲取 GPU,形成一個龐大的計算網絡。這一舉措成功了。最初,他使用了 Ray,當時Ray並沒有被廣泛認識,因為大多數人更喜歡由亞馬遜網絡服務推廣的 Kubernetes。他獨立運營這個網絡,支持他的交易模型兩年半。

2023 年,Open AI 推出了ChatGPT,突然間,整個世界都將注意力轉向了 AI,尤其是它所需的巨大算力。ChatGPT 在 2023 年宣佈,它每天花費 70萬美元來訓練他們的 ChatGPT 模型。人們也質疑它如何能夠在不向用戶收費的情況下提供實時推理——對查詢的響應。Ahmad認識到 Open AI 使用了Ray架構來擴展他們的計算網絡,這導致了我們業務的開始。Ahmad 意識到他擁有 AI 行業高度追求的資源:能夠擴展分散和分佈式節點的能力,從而以較低的成本為 AI 公司提供算力,因此成立了 io.net。值得注意的是,我們是 2023 年 4 月 Solana 黑客馬拉松的獲勝者之一。io.net 平臺於 2023 年 11 月正式向公眾發佈,僅僅四個多月,我們就見證了快速的進展。

開發 io.net 的另一個原因,除了渴望創建最大的 AI 計算網絡外,還在於我們希望確保一個去中心化、由社區驅動和社區擁有的計算網絡在全球範圍內存在。通過提供一個去中心化的算力來源,我們旨在保證應用程序、數據源、AI 模型和 AI 模型推理在未來仍然全球可訪問、免審查,並可跨越國界使用。

io.net 是如何解決 AI 和雲計算行業的痛點的?

AI 已經在我們的生活中存在了相當長的時間。真正較新的發展是面向消費者的 AI 和對消費者可見的企業 AI。例如,ChatGPT 打開了很多大門,就像通用的 AI 圖像和視頻平臺一樣,它們已經成為我們日常生活中使用的工具。

大多數人沒有意識到的是,我們已經使用 AI 很長時間了。Facebook使用 AI 掃描你發佈的圖片,Google使用 AI 幫助支持他們的搜索引擎,Siri使用 AI 來理解和響應我們的查詢。現在,隨著 AI 變得更加流行,更多的公司希望使用 AI 進行開發,他們的成本增加了。算力已經成為世界上最重要和日益稀缺的資源之一。今天,AI 依賴於 GPU 計算而不是 CPU 計算,使得 GPU 需求非常高。

問題是,算力的供應還遠遠不夠——全世界的算力需求是 AWS、Azure 和 Google Cloud 這樣的中心化雲服務提供商所能提供的算力總和的2.5倍。儘管這些大公司囤積了許多顯卡,但他們沒有足夠的 GPU 算力來服務每個人。然後,有很多算力存在於獨立數據中心、加密礦工和我們的消費設備(比如 MacBook 和遊戲 PC)中。問題是,這些資源很難聚合和利用。

io.net 所做的是從各種來源聚合 GPU 的算力。一些來源的質量更高、更可靠、更有價值,一些則不然,但我們將它們全部聚合起來,為 AI 公司提供一個群集的算力。結果是,AI 公司可以以比中心化雲服務提供商的現價便宜高達 90%的價格訪問這個算力,而且它更快。使用 io.net,沒有合同要簽署,沒有KYC,沒有長期承諾,你可以選擇你的節點來自哪裡,它們的速度是多少。這種方法幫助我們通過提供一個去中心化、成本效益高、易於訪問的計算平臺來解決 AI 和雲計算行業的主要痛點。

io.net 能否匹配企業級 GPU 進行 AI 模型訓練?

簡單來說:完全沒問題。

通過將多個稍微低於企業級的顯卡聚合在一起,可以以更低的成本提供相同級別的算力。io.net 需要解決的是如何擴大這些物理基礎設施的規模。

企業級顯卡也可以由我們聚合在一起。獨立的企業級數據中心可能在這裡有五張顯卡,那裡又擁有十張顯卡,而通常這些數據中心不會協調彼此為單一客戶服務。但如果他們把這些資源放在 io.net 上,我們可以將其聚合在一起。這不僅最大化了這些企業級 GPU 的利用率,還增強了它們的貨幣化能力。本質上,io.net 充當一個平臺,促進了來自不同來源的算力的聚合,為 AI 模型訓練創造了一個效率和投產比更高的計算環境。

各處閒置的 GPU 原本只是被低效利用的資源,我們可以將它們傳遞給有需要的客戶,而終端客戶可以以便宜的價格來使用它們。

但我想說清楚的是,雖然我們的目標是建立一個去中心化的替代中心化雲服務提供商的選擇,但我並不期望它完全替代現有的基礎設施。最好的比較對象是考慮電網和可再生能源。我們不會取代基礎發電(如核電),畢竟它在一段時間內生成大量能源,穩定、便宜且高效。但核電作為”基荷電源“,不能靈活調整。這就是為什麼還需要太陽能和電池作為電網的補充。

對於 AWS 也是一樣,如果一個企業與 AWS 簽訂了一個五年的合同,為一定量的算力付費,期間不管他們是否使用都要持續付費。這樣向中心化雲服務提供商購買固定算力整體上是經濟高效的。然而,當你有需求峰值時,可按需使用的 io.net 就有價值了。例如,如果你今天想運行一個實驗,或者你知道你的負載在七天或一個月內會激增,你可以從 io.net 以更經濟的方式購買額外算力。作為一個去中心化的網絡,你不需要合同或KYC,任意挑選不同類型、不同來源、不同大小且可定製的算力資源,就這麼簡單。這為企業提供了很多不同的選項,併為人們提供了選擇和定價權。

io.net 在平衡個人和企業貢獻者之間的挑戰和策略是什麼?

我們理想的供應商有兩種類型的人。一種是擁有剩餘資源的企業數據中心,通常這是高品質的供應資源,具有高速的互聯網帶寬,最適合首先服務於企業客戶。第二種類型屬於加密礦工的範疇——某人購買專用裝備來提供能力或運行 GPU 進行加密挖礦或類似活動,通常具有高於平均水平的連接速度和專用硬件。

我們將 GPU 比作作為投資資產的房子。你投資房子是為了出租它並賺錢,GPU 也是一樣。儘管預期由於更新的芯片而貶值,我們已經看到價格因當前短缺而升值。由於需求高,A100 GPU 現在可以在大約九個月內回收其投資。與傳統的加密挖礦經濟學預期相比,這是一個非常吸引人的投資回報率。

以上所說的還只是穩定幣,這是直接收入,還沒包括代幣。而當你引入加密經濟和代幣時,激勵就更為巨大了。這類似於區塊鏈中的驗證者經濟,你在賺取具有可變價值的代幣的同時,也從客戶那裡賺取固定收入。

另外,io.net 正在建立的大型非中心化網絡還蘊含著其他機會。舉例而言,總會有一些計算節點無法勝任 AI/ML 相關任務,可能因為連接速度不夠理想,或者只是單純沒充分利用,導致它們的“單位經濟模型“並未生效。儘管如此,這些設備在成為相對高端的驗證器方面仍然擁有巨大的潛力。它們還能執行其他類型的工作,提供不同級別的計算服務。

正是由於 AI/ML 的單位經濟非常強大,我們選擇首先著手解決這一領域的挑戰,然後才將我們的計算網絡推廣到更廣泛的用途上。這種策略不僅是為了解決眼前的問題,而且也為網絡的未來發展奠定了基礎。

談及構建區塊鏈的機會,我認為不一定非得是我們自己的鏈。也許未來 SVM(Solana 虛擬機)決定提供應用鏈,或者讓所有的驗證器直接支持 Solana ,這些都是可能的發展方向。每種情況都為 io.net 增加了實用性,尤其是如果我們能夠建立一個類似於 Solana 的應用鏈,那將極為引人注目。因為這意味著我們既有區塊鏈,又提供了一個能夠為去中心化應用(DApps)提供基礎設施的計算層,從而實現真正的去中心化。

你認為誰適合使用 io.net ?

就需求方而言,目前io.net 主要被用於端到端的 AI /ML工作負載,這主要分成兩類需求,分別是模型訓練和模型推理。

首先是模型訓練的需求。雖然模型訓練目前都使用位於同一地點的 GPU,但模型訓練不像模型推理有嚴格的延遲要求,實際上可以不使用聚合在一起的 GPU,即通過使用 io.net 擴展架構,花費更長的訓練時間,最終實現更低成本的模型訓練。畢竟成本是模型訓練最值得關心的部分。

其次是模型推理的需求。成本和動態負載是其兩個主要問題,這都很適合使用 io.net 應對。一方面,模型推理成本很高,而之前已經解釋過 io.net 成本非常低。另一方面,模型推理的負載需求往往會不可預測地快速提升,如果你將自己的 ChatGPT 模型發佈出來,你需要考慮所有不可預測的負載。但 io.net 非常靈活,你可以隨時按需使用。你完全可以向中心化雲服務商購買基礎服務,然後由 io.net 應對負載峰值。我們為企業提供靈活性,以經濟高效的方式管理需求峰值,用去中心化的、按需購買的資源提供額外負載算力。

我認為現在已經沒有多少人在訓練自己的模型,畢竟這很昂貴,Facebook、蘋果和微軟都花了成百上千萬去訓練模型。人們更多的是直接使用大型科技公司開發的基礎模型,然後對已有模型做調整和推理。我認為這是行業的發展方向:少量的模型訓練,一定量的模型調整,以及大量的模型推理。所以 io.net 專注於模型推理,這是開發者的”最後一英里“,也更容易變現。我們在平臺上構建了一個很受歡迎的名為 BC8.AI 的產品,每天有大概 2.5 萬筆交易,全部都是模型推理。

從更廣泛的範圍來看,我們選擇從 AI/ML 開展項目,是因為其強大的單位經濟,但 io.net 的發展前景不僅僅侷限於做 AI 的計算層,還想成為最大的去中心化通用計算層,隨著技術和市場的發展,將有更多的機會出現,讓我們能夠利用這個龐大的非中心化網絡去支持各種各樣的計算需求,最終實現一個更加開放、自由的數字世界。

io.net 堆棧的哪些部分與區塊鏈相關?

管理無許可交易之間的權限是在區塊鏈上的。我們基本上允許你以無許可的方式加入網絡。在供應和需求的匹配中沒有人為中介。你使用,你支付,你知道人們會收到錢並且會為你提供計算隊列。實際上這裡有一個證明,供應方承諾在一定時間內提供能力。如果你租用一個小時,我承諾提供一個小時。如果我沒有在整個小時內提供那個能力,我會被罰款。經濟學和機制在這方面非常類似於驗證器。

我們還在鏈上存儲計算證明,有一個像是賬本的運行日誌。所以如果你看一個模型推理結果,你始終可以準確追蹤到哪個節點提供了該計算,什麼時間提供了計算,提供了多少計算,你為此支付了多少費用。

在未來,這種透明度和數據存儲將非常有助於追蹤這些計算是如何被產生的。你可能會看一個圖像,並且總能追蹤到誰影響了它,誰提供了計算,以及它是從哪個模型推理出來的。我認為隨著 AI 行業的發展,這種類型的透明度將變得非常重要。

另外,我們選擇 Solana 作為我們的區塊鏈需求,是因為它快速且便宜。儘管最近面臨一些可擴展性挑戰,但它已被證明能夠處理我們所看到的交易負載。我們的目標是儘可能多地在 Solana 上維持我們的核心基礎設施,利用其容量和即將到來的更新,如Firedancer,以獲得更大的可擴展性。

買家在 io.net 上選擇計算群集的匹配過程是如何工作的?

買家不需要深入過多細節。他們簡單地指明他們想要的設備類型、連接速度和他們偏好的位置。這為買家提供了他們需要確定的所有信息,基於他們正在尋找的容量來決定需要多少 GPU。隨著行業的發展,當延遲和容量不再是唯一的決定因素時,我預計買家將做出更細微的選擇。他們可能會出於特定原因選擇某些位置,或者基於經濟價值在低端和高端設備之間做出選擇。目前由於稀缺,如果買家需要容量,他們會接受任何可用的、能滿足他們需求的容量。他們會檢查我們的網絡,檢查是否有足夠的 4090可用,然後選擇並使用它們。

目前有一個市場教育的過程,我認為隨著去中心化雲服務提供商的發展壯大,行業需求也會持續發展和擴大。

另一方面是對低質量節點的管理。一旦代幣空投或挖礦計劃開始,這個問題就出現了。所以我們引入了”時間分數“和”聲譽分數“。io.net 上的每個節點都有一個聲譽分數,這允許客戶看到一個節點多久保持可用、它的上線時間和其他性能指標,以此幫助決策。我們不斷地對每個節點進行ping操作,如果一個節點沒有響應,它就被認為是不可用的。如果它不可用,它就不會獲得獎勵。加密經濟激勵是直截了當的:如果一個節點可用,它為需求方提供更好的服務,並且更頻繁地被僱用,賺取更多的獎勵。只要節點在被僱用時保持可用性和性能,需求方就會獲得所需的算力,雙贏。

你如何看待 io.net 在未來五年的發展?

我們在 4 月 28 日發幣,我確信世界會在那之後改變,當然程度取決於它的後續發展。

目前,大家都知道算力非常有價值,但除了購買 GPU,作為一個消費者無法真正將其作為一個商品交易和使用。我們設想的是在”算力“作為一種可訪問的商品的基礎上,構建一個產品和服務的生態系統。通過創造一種代幣化的方式讓人們交易算力,並進一步構建其他東西。我們的目標是將$IO變成算力貨幣。如果算力是數字石油,那麼它需要一個石油美元,我們正在試圖構建那個石油美元。我們已經為它創建了一個市場,人們可以交易,將資產換取價值,以及使用其上構建的 DeFi 產品。未來當我們進入通用計算領域時,更多的事情可以發生,因為更多的行業可以參與進來。

接下來,我們需要將供應方增加 10倍,改善需求方自助服務體驗,並且擴展用例,如雲遊戲、圖像渲染、視頻渲染——這些可能不屬於傳統 AI 工作負載下的事情。另外,通過在供需兩端擴展,讓低端顯卡滿足低端需求,可以進一步拓展客戶類型來提高市場份額。

現在,我們每天的營業額大約是七八千美元,年化約 230萬美元,而這才四個月而已。所以我們只需要繼續增長市場的供需兩端,並讓飛輪旋轉起來。我希望,在接下來的四五年裡平臺變得非常大,將大量的算力移動到網絡上。我們的目標是逐步將DePIN過渡給社區,DePIN 應該始終是一個去中心化的資產,在其之上構建的不同應用,無論是 io.net 還是其他由 DePIN 驅動的協議和服務,那些都是完全分開的。但 DePIN 的逐步去中心化是非常重要的。

io.net 與 Render 和Filecoin之間的關係是什麼?

io.net 首先是擁有一個 UI,這可以使得用戶體驗更好。然後我們為Render、Filecoin 及其他 DeFIN 帶來了兩樣東西:網絡架構和操作軟件,它操作在設備上運行的客戶端。網絡架構至關重要,因為並非所有 DePIN 都能將數千個地理分散的 GPU 聚合成一個單一的群集。通過將 GPU 放在我們的 DePIN 上,可以被其他網絡訪問並按需使用,主要是 AI。

Render 在渲染圖像方面表現出色——這是其網絡被構建和工具化的目的。Filecoin 同樣,是為存儲而構建的。這些公司在各自的功能上都表現出色,但我們更擅長服務 AI 工作負載,不論是 Render、Filecoin 還是其他 DeFIN,都需要使硬件上的客戶端有能力滿足那些 AI 工作負載,這都可以訪問我們的網絡和使用我們的工具來為 AI 客戶賺錢,畢竟 AI 確實擁有強大的單位經濟。

未來 io.net 也不打算取代像 Render 或 Filecoin 這樣的平臺,而是提供了更多的合作可能性。如果有人想利用他們的算力為 Filecoin 或像 Render 這樣的項目服務,他們可以使用 io.net 作為一個平臺自由地這樣做。

說到市場競爭,我們也有自己的思考。這個領域的單位經濟如此之好,難免有人參與競爭。不過,建立市場業務的好處是,我們具備先發優勢。我們更早,我們更大,實際上我們有4-5年的先發優勢,這會帶來巨大的優勢慣性。我們的網絡架構——比如部署一個完全地理分散的擁有 6000多個節點的群集——也是其他人難以做到的。此外,競爭者還不得不克服激增的成本。

io.net 的獨特技術優勢是什麼?

其實所有構建 DePINs 的策略並沒有太大的不同——一個關鍵因素是如何將物理位置彼此分離的 GPU 聚合;另一個關鍵因素是到底聚合多少 GPU ,細節包括它們是否必須是相同的型號、它們之間允許的距離、群集的大小、延遲有多少,等等。

這些看起來可能簡單,但實現這些網絡能力和所做的權衡至關重要。如果有人複製我們的方法,比如分叉 Ray 並提供 Ray 群集,會發現他並不能保證和我們相同的延遲。而在算力作為一種商品的世界中,競爭力取決於延遲、可用性和連接速度的微小差異。

而這便是我們的技術壁壘所在。它包括網絡架構以及編排層的構建,為開發人員部署的便利性、工人的連接簡便性和眾多 UI/UX 決策。

除了技術壁壘,還有一個市場策略壁壘:決定是否從圖像渲染、視頻渲染、存儲、AI 工作負載、同步雲遊戲或像素流媒體這樣的領域開始。這些不是傳統意義上的技術壁壘,但它們是基於資源限制而作出取捨的重大戰略選擇。

喜歡 io.net 的用戶如何參與?

如果你對 io.net 感興趣,有幾種方式可以參與。對於那些在家中擁有消費設備,如 MacBook 或 4090遊戲 PC 的人,我鼓勵你連接到網絡並提供算力。這是一個瞭解去中心化物理基礎設施網絡如何運作的絕佳方式,它們的存在就是為了優化世界上的低效資源。

對於礦工來說,io.net 提供了一個令人興奮的機會來貢獻和受益。如果你對將 GPU 作為資產來賺取收益的想法感興趣,這是值得考慮的。GPU 是產生收益的資產,通常提供比傳統投資如房子或汽車更快的回報。這不是投資建議,但這是一個值得考慮的角度——算力的財務化。我們會將$IO 變成數字石油美元,支持一個完整的財務化產品、工具和服務的生態系統,並在其之上構建整個 DeFi 生態系統。

開發者可以嘗試在 io.net 上部署群集,像我今天花了三分鐘就可以部署 6000個節點。作為一個普通人以往是很難獲得這樣規模的算力,這是一個新奇且迷人的體驗。

即使你不直接提供算力,仍然有很多機會參與。你可以加入我們社區的討論,比如關於數據可用性、保護抗審查 AI 模型和推理的話題。請在 Twitter 上關注我們或加入我們的 Discord,我們的 Discord 中有一些非常聰明、睿智的思想家負責主持,歡迎加入進來進行對話,我們會在這裡。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
1
收藏
評論