AI 기업 그래디언트(Gradient)가 모델 학습 비용을 90% 이상 절감하는 '에코-2(Echo-2)'를 출시했습니다.

AI 인프라 기업인 그래디언트(Gradient)가 차세대 분산형 강화 학습(RL) 플랫폼인 에코-2(Echo-2)를 출시했습니다. 이 플랫폼은 전 세계의 유휴 GPU 리소스를 활용하는 분산 컴퓨팅 기술을 통해 높은 컴퓨팅 비용 문제를 해결합니다. 이러한 접근 방식은 RL 컴퓨팅의 80%를 차지하는 샘플링 프로세스를 대상으로 하며, 이는 고수준 병렬 처리에 매우 적합합니다. 그래디언트는 300억 개의 파라미터를 가진 모델의 학습 비용을 상용 클라우드 환경에서 세션당 약 4,490달러에서 약 425달러로 10배 이상 절감하는 데 성공했습니다. 학습 시간 또한 9.5시간으로 크게 단축되었습니다. 에코-2는 "제한된 데이터 안정성(Bounded Staleness)" 기반의 비동기 RL 기술을 통합하여 학습자와 행위자를 분리하고 모델 버전 간의 시간 지연을 엄격하게 관리함으로써 학습 안정성을 유지합니다. 또한, Echo-2는 60GB가 넘는 대용량 모델 가중치를 단 몇 분 만에 수백 개의 노드에 배포할 수 있는 "Lattica" P2P 프로토콜과, 복잡한 설정 없이 바로 실행 가능한 환경을 구축하기 위해 배포, 학습 및 데이터를 독립적으로 관리하는 "3-Plane Architecture"를 특징으로 합니다. Gradient 관계자는 Echo-2가 누구나 경제적 제약 없이 최첨단 추론 모델을 구축하고 소유할 수 있는 기반이 될 것이라고 밝혔습니다.