SN 5:开创文本嵌入模型的去中心化革命

本文为机器翻译
展示原文

在9月底,SN 5进行了一次重大更新。本文将概述此次更新的关键细节,帮助市场重新评估和重新评价SN 5的重要性和潜力。

Subnet 5 Open Kaito

Emission:0.88%(2024–10–10)

Github:https://github.com/OpenKaito/openkaito

Root Network验证者在SN 5上的 stake 金额(金额=验证者的总 stake * 验证者在SN 5上的权重)

什么是SN5?

Bittensor Subnet 5的核心目标是开发世界上表现最佳、最通用的文本嵌入模型。它支持去中心化的模型训练、评估和服务,同时通过API使这些模型可供广泛的应用程序使用。

SN 5利用Bittensor去中心化节点网络进行动态评估和持续的模型改进。

SN 5的矿工负责使用不断更新的大规模文本语料库来训练模型。他们承诺提供低延迟和高吞吐量的模型,以满足下游应用程序的需求。

SN 5的验证者使用多个基准严格评估模型,不断选择更好的模型。矿工的模型与现有的最先进文本嵌入模型进行比较,确保SN 5保持竞争力并不断改进。

矿工如何被评估?

在SN 5中,矿工接收文本批次并使用他们的模型生成文本嵌入。然后,验证者使用对比学习损失函数评估这些嵌入的质量。

该函数为:

https://github.com/OpenKaito/openkaito/tree/main#incentive-mechanism

其中,c是目标嵌入,x是正样本,x'是负样本。这个过程旨在最大化正样本x和目标嵌入c之间的互信息。

嵌入质量更高的矿工获得更好的分数,他们的模型被视为更优秀。

SN 5取得了什么成就?

在这种激励机制下,SN 5取得了显著进展:

https://x.com/openkaito/status/1843859161169440992

截至10月9日,矿工提供的文本嵌入模型已经相比OpenAI基线有所改善。

随着SN 5不断提高模型质量,用户将获得高度通用的文本嵌入,这些嵌入将超越现有的最先进模型。这些模型将通过SN 5验证器API公开提供,促进广泛采用并集成到各种应用程序中。

如何评估新的SN 5?

SN 5利用去中心化的优化和训练来开发文本嵌入模型,为Bittensor生态系统和去中心化AI做出了重大贡献:

  • 推进广泛适用模型的进化: SN 5旨在开发世界上表现最佳、最通用的文本嵌入模型。这些模型将针对无限大且动态的数据集进行评估,确保最大程度的领域泛化。
  • 利用去中心化网络进行动态评估和持续改进: 通过利用Bittensor网络,SN 5避免了集中式AI模型开发的局限性,增强了透明度和抗审查性。验证者的动态评估不断推动矿工改进他们的模型,确保SN 5不仅超越现有的最先进模型,而且能够适应最新的实际知识,保持竞争力并推动行业发展。

Medium
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
收藏
评论