3월 17일, 스테이블코인 발행사 테더는 자사의 AI 플랫폼인 QVAC Fabric이 마이크로소프트 비트넷(1비트 LLM)용 세계 최초의 크로스 플랫폼 LoRA 미세 조정 프레임 출시했다고 발표했습니다. 이 프레임워크를 통해 수십억 개의 매개변수를 가진 언어 모델을 노트북, 소비자용 GPU, 스마트폰 등 일반 하드웨어에서 학습하고 추론할 수 있게 됩니다.
공식 발표에 따르면 해당 프레임 AI 모델 학습에 필요한 GPU 메모리 및 해시레이트 의 진입 장벽을 크게 낮추고 인텔, AMD, 애플 실리콘 및 다양한 모바일 GPU(예: Adreno, Mali, Apple Bionic)를 지원합니다.
테스트 결과, 약 1억 2,500만 개의 파라미터를 가진 BitNet 모델은 삼성 S25에서 약 10분 만에 미세 조정할 수 있었습니다. 10억 개의 파라미터를 가진 모델은 삼성 S25에서 약 1시간 18분, 아이폰 16에서는 약 1시간 45분이 소요되었습니다. 연구팀은 아이폰 16에서 130억 개의 파라미터를 가진 모델까지 성공적으로 미세 조정했습니다.
성능 측면에서 BitNet 모델은 모바일 GPU에서 CPU보다 2~11배 빠른 추론 속도를 달성할 수 있습니다. 또한 테스트 결과 BitNet-1B는 추론 및 미세 조정 작업에서 16비트 모델 대비 GPU 메모리 사용량을 최대 77.8%까지 줄일 수 있는 것으로 나타났습니다.
파올로 아르도이노는 이 기술이 대규모 클라우드 컴퓨팅과 전용 AI 하드웨어에 대한 의존도를 줄여 AI 모델 학습을 로컬 기기에서 완료할 수 있도록 하고, 탈중앙화 AI 및 연합 학습과 같은 새로운 패러다임을 위한 토대를 마련하는 것을 목표로 한다고 밝혔습니다.
