Bài báo của chúng tôi về DeMo đã được chấp nhận tại hội nghị ICLR 2026! Được phát triển bởi @bloc97_ và @theemozilla, DeMo đã giúp khởi động các nghiên cứu trong ngành về các thuật toán tối ưu hóa hiệu quả về mặt truyền thông. Ngày nay, nó đã trở thành Block xây dựng cốt lõi cho mạng huấn luyện phân tán băng thông thấp của Nous. Khóa học ICLR năm nay đặc biệt khó khăn, với tỷ lệ chấp nhận chỉ 28% trên hơn 19.000 bài dự thi. Chúng tôi xin bày tỏ lòng biết ơn đối với các chủ nhiệm bộ môn và các nhà phê bình vì công sức to lớn và đầy thử thách của họ. Nếu bạn có mặt ở Rio vào tháng Tư, hãy để ý đến đội ngũ của chúng tôi (và một số quà tặng của Nous nhé!). http:/arxiv.org/pdf/2411.19870