Odaily rằng Gradient, một phòng thí nghiệm AI phân tán, hôm nay đã phát hành khung học tăng cường phân tán Echo-2, nhằm mục đích phá vỡ các rào cản về hiệu quả đào tạo trong nghiên cứu AI. Bằng cách tách rời hoàn toàn bộ phận Học (Learner) và bộ phận Tác nhân (Actor) ở cấp độ kiến trúc, Echo-2 giảm đáng kể chi phí sau đào tạo của một mô hình 30 tỷ từ 4.500 đô la xuống còn 425 đô la. Điều này tương đương với việc tăng năng suất nghiên cứu lên hơn 10 lần với cùng một ngân sách.
Khung phần mềm này sử dụng công nghệ phân tách tính toán trong bộ nhớ để huấn luyện bất đồng bộ (Async RL), chuyển tải tỷ lệ băm lấy mẫu khổng lồ sang các phiên bản GPU không ổn định và các GPU không đồng nhất dựa trên Parallax. Kết hợp với những đột phá trong việc giới hạn sự trì trệ, lập lịch chịu lỗi phiên bản và giao thức truyền thông Lattica tự phát triển, nó cải thiện đáng kể hiệu quả huấn luyện trong khi vẫn duy trì độ chính xác của mô hình. Cùng với việc phát hành khung phần mềm, Gradient cũng sẽ sớm ra mắt nền tảng RLaaS Logits, thúc đẩy nghiên cứu AI từ mô hình "tích lũy vốn" sang "lặp lại hiệu quả". Logits hiện đã mở đăng ký cho sinh viên và nhà nghiên cứu trên toàn thế giới (logits.dev).
Gradient là một phòng thí nghiệm AI chuyên xây dựng cơ sở hạ tầng phân tán, tập trung vào việc đào tạo, vận hành và triển khai phân tán các mô hình quy mô lớn tiên tiến.
