3월 16일 공식 발표에 따르면, 비텐서 서브넷 템플러(SN3)는 3월 10일에 역사상 최대 규모의 탈중앙화 LLM 사전 학습인 코버넌트-72B를 완료했습니다.
Covenant-72B는 720억 개의 파라미터를 가진 언어 모델로, Templar 팀이 Bittensor 서브넷 3에서 사전 학습했으며, 중앙 집중식 데이터 센터 없이 일반 인터넷 기반으로 완전히 운영됩니다. 이 모델은 MMLU(제로샷) 테스트에서 67.1점을 달성하여 동일한 평가 조건에서 LLaMA-2-70B 및 LLM360 K2와 같은 중앙 집중식 기준 모델보다 우수한 성능을 보였습니다. 70개 이상의 노드가 운영 전반에 걸쳐 컴퓨팅 리소스를 제공하는 이 모델은 현재까지 가장 큰 규모의 완전 무허가 협업 언어 모델입니다. 개발팀은 모든 가중치와 체크포인트를 Apache 라이선스에 따라 공개했습니다.
이 소식의 영향으로 비텐서(TAO)와 그 하위 토큰들이 전반적으로 상승했으며, TAO는 지난 2주 동안 54.8% 상승했습니다. 하위 토큰인 템플러(τemplar)는 지난 7일 동안 194% 상승하여 현재 19.3달러에 거래되고 있습니다.
