목차
비녀장인공지능(AI) 분야 에서 강력한 모델을 훈련시키는 것은 항상 값비싼 NVIDIA 시스템이나 클라우드 해시레이트 에 크게 의존해야 했기 때문에 "돈을 낭비하는 일"로 여겨져 왔습니다. 그러나 스테이블코인 업계의 거물 테더(Tether)는 기술을 통해 이러한 고정관념을 깨뜨리려 하고 있습니다. 3월 17일, 테더의 기술 부문인 테더 데이터(Tether Data)는 자사의 QVAC(QuantumVerse Automatic Computer) 플랫폼을 위한 세계 최초의 크로스 플랫폼 BitNet LoRA 튜닝 프레임 공식 출시 했다고 발표했습니다 .
이 기술의 핵심 가치는 수십억 개의 매개변수를 가진 AI 모델이 누구나 주머니에 넣고 다니는 휴대폰에서 개인 맞춤형으로 학습할 수 있도록 해준다는 점에 있습니다.
1비트 아키텍처의 마법: 적은 자원으로 큰 성과를 내는 스마트폰
이 획기적인 발전은 마이크로소프트의 BitNet 1비트 LLM 아키텍처를 기반으로 합니다. QVAC 패브릭을 사용한 최적화를 통해 BitNet 모델의 메모리 사용량과 연산 부하가 극히 낮은 수준으로 감소했습니다. 발표에 따르면, 이 프레임 일반적인 NVIDIA GPU를 지원할 뿐만 아니라 Intel, AMD, Apple M 시리즈 칩, 그리고 Adreno(Android), Mali, Apple Bionic GPU와 같은 모바일 기기와의 완벽한 호환성을 제공합니다.
이는 기존에는 데이터 센터에서만 실행 가능했던 AI를 이제 모바일 기기에서 "저랭크 적응(LoRA)" 기술을 사용하여 정밀하게 조정할 수 있음을 의미합니다. 테더는 이 기술을 통해 엣지 디바이스가 기존 4분기 양자화 모델보다 "두 배 더 큰" 모델을 처리할 수 있어 궁극적인 메모리 이점을 입증한다고 강조합니다.
실제 테스트 데이터가 밝혀낸 삼성 S25와 아이폰 16의 놀라운 속도
테더 엔지니어링 팀은 발표에서 최신 모바일 기기에서 프레임 의 실질적인 기능을 보여주는 흥미로운 테스트 데이터를 공유했습니다.
- 1억 2500만 개의 매개변수를 가진 모델: 삼성 S25 에서 300개의 생의학 문서 데이터 세트를 미세 조정하는 데는 약 10분 밖에 걸리지 않습니다.
- 10억(1B) 매개변수 모델: 동일한 미세 조정 작업은 Samsung S25 에서 1시간 18분, iPhone 16 에서 1시간 45분이 걸렸습니다.
- 극한의 도전: 개발팀은 미세 조정을 위해 iPhone 16 에서 최대 130억(13B)개의 매개변수를 가진 모델을 성공적으로 실행하여 모바일 기기의 물리적 한계를 뛰어넘었습니다.
API 키는 이제 그만! 100% 개인 정보가 보호되는 AI를 만들어보세요.
테더(Tether) CEO 파올로 아르도이노는 "AI를 사용하기 위해 API 키가 필요하다면, 그것은 사실상 당신의 것이 아니다"라고 일관되게 강조해 왔습니다. QVAC의 핵심 철학은 "로컬 우선"입니다.
BitNet LoRA 프레임 통해 사용자는 클라우드 서버에 데이터를 업로드하지 않고도 로컬 이메일, 메모, 메시지에서 직접 학습할 수 있는 AI를 구현할 수 있습니다. 이는 기업의 민감한 데이터 오용에 대한 우려를 해소할 뿐만 아니라 AI 개발 분야에서 소수의 거대 기업이 독점하는 구도를 깨뜨립니다. 현재 QVAC Fabric LLM은 오픈 소스 소프트웨어(Apache 2.0 라이선스)로 출시되었으며, Hugging Face에서 사전 선택된 어댑터를 제공하여 전 세계 개발자들이 엣지 컴퓨팅의 혁명을 즉시 시작할 수 있도록 지원합니다.
관련 보고서
라쿠텐이 "일본 최대 규모의 AI 모델"을 대대적으로 공개했습니다. 커뮤니티 검색 엔진은 DeepSeek V3입니다.
머스크: 오픈AI를 상대로 한 소송에서 이기면 배상금 전액을 자선단체에 기부하겠습니다! 법원은 최대 손해배상액이 1090억 달러에 달할 수 있다고 판결했습니다.
