Khung huấn luyện trí tuệ nhân tạo (AI) bằng ngôn ngữ C do SpaceX tự phát triển đang gần hoàn thiện và sẽ được sử dụng để huấn luyện Grok v5.

Bài viết này được dịch máy
Xem bản gốc
Theo ME AI , dựa trên sự giám sát của Beating, Elon Musk tiết lộ rằng đội ngũ nội bộ của SpaceX đang gần hoàn thành phiên bản 1.0 của khung huấn luyện AI siêu lớn tự phát triển được viết bằng ngôn ngữ C. Về mặt ánh xạ phần cứng và cơ chế song song, bộ huấn luyện mới có thể thích ứng chính xác với một cụm máy tính siêu lớn bao gồm 220.000 card tăng tốc NVIDIA GB300 và card mạng 800G. Để tận dụng tối đa tỷ lệ băm, khung này được thiết kế cực kỳ gần với lớp phần cứng cơ bản và sử dụng độ sâu công nghệ song song đường ống. Musk tiết lộ rằng khi xử lý nhiệm vụ huấn luyện siêu lớn, kiến ​​trúc nền tảng bằng ngôn ngữ C thuần túy có thể cải thiện tốc độ chạy hơn một bậc (hơn 10 lần) so với khung AI cấp cao JAX của Google. Bộ huấn luyện tự phát triển mới này sẽ chạy trên cụm siêu máy tính Colossus của SpaceX, trực tiếp phục vụ toàn bộ quá trình huấn luyện và lặp lại mô hình lớn thế hệ tiếp theo Grok v5. (Nguồn: ME)

Nguồn
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận