저희 데모 논문이 ICLR 2026에 채택되었습니다! @bloc97_와 @theemozilla가 개발한 DeMo는 통신 효율적인 최적화 알고리즘에 대한 업계 연구를 촉발하는 데 기여했습니다. 현재 DeMo는 Nous의 저대역폭 분산 학습 네트워크의 핵심 구성 블록 되었습니다. 올해 ICLR 심사는 특히 어려웠으며, 19,000건이 넘는 제출작 중 채택률은 28%에 불과했습니다. 과중하고 어려운 심사 업무를 맡아주신 분야별 위원장님들과 심사위원님들께 깊은 감사를 드립니다. 4월에 리우에 계시다면 저희 팀(그리고 누스 기념품)을 찾아보세요! http:/arxiv.org/pdf/2411.19870