在9月底,SN 5進行了一次重大更新。本文將概述此次更新的關鍵細節,幫助市場重新評估和重新評價SN 5的重要性和潛力。
Subnet 5 Open Kaito
Emission：0.88%（2024–10–10）
Github：https://github.com/OpenKaito/openkaito
什麼是SN5?
Bittensor Subnet 5的核心目標是開發世界上表現最佳、最通用的文字嵌入模型。它支援去中心化的模型訓練、評估和服務,同時透過API使這些模型可供廣泛的應用程式使用。
SN 5利用Bittensor去中心化節點網路進行動態評估和持續的模型改進。
SN 5的礦工負責使用不斷更新的大規模文字語料庫來訓練模型。他們承諾提供低延遲和高吞吐量的模型,以滿足下游應用程式的需求。
SN 5的驗證者使用多個基準嚴格評估模型,不斷選擇更好的模型。礦工的模型與現有的最先進文字嵌入模型進行比較,確保SN 5保持競爭力並不斷改進。
礦工如何被評估?
在SN 5中,礦工接收文字批次並使用他們的模型生成文字嵌入。然後,驗證者使用對比學習損失函式評估這些嵌入的質量。
該函式為:
其中,c是目標嵌入,x是正樣本,x'是負樣本。這個過程旨在最大化正樣本x和目標嵌入c之間的互資訊。
嵌入質量更高的礦工獲得更好的分數,他們的模型被視為更優秀。
SN 5取得了什麼成就?
在這種激勵機制下,SN 5取得了顯著進展:
截至10月9日,礦工提供的文字嵌入模型已經相比OpenAI基線有所改善。
隨著SN 5不斷提高模型質量,使用者將獲得高度通用的文字嵌入,這些嵌入將超越現有的最先進模型。這些模型將透過SN 5驗證器API公開提供,促進廣泛採用並整合到各種應用程式中。
如何評估新的SN 5?
SN 5利用去中心化的最佳化和訓練來開發文字嵌入模型,為Bittensor生態系統和去中心化AI做出了重大貢獻:
- 推進廣泛適用模型的進化: SN 5旨在開發世界上表現最佳、最通用的文字嵌入模型。這些模型將針對無限大且動態的資料集進行評估,確保最大程度的領域泛化。
- 利用去中心化網路進行動態評估和持續改進: 透過利用Bittensor網路,SN 5避免了集中式AI模型開發的侷限性,增強了透明度和抗審查性。驗證者的動態評估不斷推動礦工改進他們的模型,確保SN 5不僅超越現有的最先進模型,而且能夠適應最新的實際知識,保持競爭力並推動行業發展。
