9월 말, SN 5에 대한 주요 업데이트가 있었습니다. 이 기사에서는 이번 업데이트의 핵심 내용을 설명하여 SN 5의 의미와 잠재력을 재평가할 수 있도록 하겠습니다.
Subnet 5 Open Kaito
배출량: 0.88%（2024–10–10）
Github：https://github.com/OpenKaito/openkaito
SN5란 무엇인가?
Bittensor Subnet 5의 핵심 목표는 세계 최고 성능의 범용 텍스트 임베딩 모델을 개발하는 것입니다. 이를 통해 분산형 모델 학습, 평가 및 서비스를 가능하게 하고, 다양한 애플리케이션에 활용할 수 있는 API를 제공합니다.
SN 5는 Bittensor의 분산형 노드 네트워크를 활용하여 동적 평가와 지속적인 모델 개선을 수행합니다.
SN 5의 채굴자들은 지속적으로 업데이트되는 대규모 텍스트 코퍼스를 사용하여 모델을 학습합니다. 그리고 하류 애플리케이션의 요구사항을 충족하는 저지연, 고처리량 모델을 제공하는 것을 약속합니다.
SN 5의 검증인들은 다양한 벤치마크를 통해 모델을 엄격하게 평가하고, 더 나은 모델을 지속적으로 선별합니다. 채굴자의 모델은 기존 최첨단 텍스트 임베딩 모델과 비교되어, SN 5가 경쟁력을 유지하고 지속적으로 발전할 수 있도록 합니다.
채굴자는 어떻게 평가되나요?
SN 5에서 채굴자들은 텍스트 배치를 받아 모델을 사용하여 텍스트 임베딩을 생성합니다. 그러면 검증인들이 대조 학습 손실 함수를 사용하여 이러한 임베딩의 품질을 평가합니다.
이 함수는 다음과 같습니다:
여기서 c는 대상 임베딩, x는 긍정 샘플, x'는 부정 샘플입니다. 이 과정은 긍정 샘플 x와 대상 임베딩 c 간의 상호 정보를 최대화하는 것을 목표로 합니다.
더 높은 품질의 임베딩을 생성하는 채굴자들은 더 좋은 점수를 받으며, 그들의 모델이 더 우수한 것으로 간주됩니다.
SN 5는 어떤 성과를 거두었나요?
이러한 인센티브 메커니즘 하에서 SN 5는 눈에 띄는 진전을 이루었습니다:
10월 9일 기준, 채굴자들이 제공하는 텍스트 임베딩 모델은 OpenAI 기준선에 비해 개선된 성능을 보이고 있습니다.
SN 5가 계속해서 모델 품질을 향상시킴에 따라, 사용자들은 기존 최첨단 모델을 능가하는 범용 텍스트 임베딩에 접근할 수 있게 될 것입니다. 이러한 모델은 SN 5 검증인 API를 통해 공개적으로 제공되어, 다양한 애플리케이션에 통합될 수 있습니다.
새로운 SN 5를 어떻게 평가할 수 있나요?
SN 5는 텍스트 임베딩 모델의 분산형 최적화 및 학습을 활용하여, Bittensor 생태계와 분산형 AI 발전에 크게 기여하고 있습니다:
- 광범위하게 적용 가능한 모델 진화 촉진: SN 5는 세계 최고 성능의 가장 범용적인 텍스트 임베딩 모델 개발을 목표로 합니다. 이러한 모델은 무한히 큰 동적 데이터셋에 대해 평가되어, 최대 수준의 도메인 일반화를 달성할 것입니다.
- 분산형 네트워크를 활용한 동적 평가와 지속적 개선: Bittensor 네트워크를 활용함으로써 SN 5는 중앙집중형 AI 모델 개발의 한계를 극복하고, 투명성과 검열 저항성을 높입니다. 검증인들의 동적 평가는 채굴자들이 모델을 지속적으로 개선하도록 압박하여, SN 5가 기존 최첨단 모델을 능가할 뿐만 아니라 최신 실세계 지식에 적응하고 산업 경계를 넓혀나갈 수 있도록 합니다.
