Tether는 소비자용 GPU와 스마트폰에서 대규모 모델 학습 및 추론을 지원하는 크로스 플랫폼 BitNet LoRA 프레임 출시했습니다.

Mars Finance에 따르면, Tether CEO 파올로 아르도이노는 Tether AI 팀이 크로스 플랫폼 BitNet LoRA 프레임 통합한 새로운 버전의 QVAC Fabric을 출시했다고 밝혔습니다. 이 새로운 버전은 일반 소비자용 GPU와 스마트폰에서 수십억 개의 파라미터를 가진 모델의 학습 및 추론을 가능하게 합니다. 새로운 QVAC Fabric LLM은 AMD, Intel, Apple Metal 및 모바일 GPU에서 BitNet LoRA 미세 조정 및 추론을 위한 크로스 플랫폼 운영을 최초로 구현했습니다. 플래그십 기기에서 GPU 추론 속도는 CPU보다 2~11배 빠르며, 메모리 사용량은 전체 정밀도 모델 대비 최대 90%까지 절감됩니다. Tether 팀은 이미 Pixel 9, S25, iPhone 16과 같은 플래그십 스마트폰에서 최대 38억 개의 파라미터를 가진 모델을 미세 조정했으며, iPhone 16에서는 최대 130억 개의 파라미터를 가진 모델 미세 조정을 달성했습니다. 관련 코드는 GitHub에서 오픈 소스로 공개되었습니다.