Bài viết này được dịch máy
Xem bản gốc

Các bạn ơi, mình nghĩ đây có thể sẽ là OpenClaw tiếp theo đấy. Karpathy đã để một tác nhân AI tối ưu hóa mã huấn luyện mạng nơ-ron của chính mình trong 2 ngày. Nó đã tự động thực hiện 700 thí nghiệm. Ông đã tìm ra 20 cải tiến mà mình đã bỏ sót sau nhiều tháng tinh chỉnh thủ công. Hiệu suất tăng 11%. Công cụ này đã tìm thấy lỗi, tinh chỉnh các siêu tham số, phát hiện ra sự thiếu sót trong việc điều chỉnh tham số và lập kế hoạch cho các thí nghiệm riêng dựa trên kết quả trước đó. Karpathy đã làm gì? "Lập trình program.md" Đây là một người đàn ông đã tự tay thực hiện quy trình làm việc này suốt 20 năm. Ông ấy chính là người đã tạo ra hệ thống lái tự động của Tesla. Và phản ứng của ông ấy thật "bất ngờ". Tại sao lại là cấp độ Openclaw? Bởi vì OpenClaw không phải là một robot duy nhất học một nhiệm vụ duy nhất. Nó là một khuôn khổ cho phép các tác nhân thực hiện toàn bộ một loạt các hành động. Điều tương tự vừa xảy ra với chính hoạt động nghiên cứu/thử nghiệm. Karpathy đã bắt đầu chuẩn bị cho vòng 2 với sự hợp tác đa tác nhân. Ông ấy nói thẳng thừng: "Tất cả các phòng thí nghiệm tiên phong sẽ làm điều này. Đây là trận chiến trùm cuối." Nhưng nhìn tổng thể hơn, nhận định thực sự của ông là: "Bất kỳ chỉ số nào bạn quan tâm và có thể đánh giá một cách hiệu quả đều có thể được tự động nghiên cứu bởi một Swarm tác nhân." Bất kỳ chỉ số nào bạn quan tâm và có thể đánh giá một cách hiệu quả đều có thể được tự động nghiên cứu bởi một Swarm tác nhân. Chi tiêu quảng cáo, chuỗi cung ứng, lưới điện, nghiên cứu thuốc, chiến lược giao dịch, ETC... nếu có thể tự động nghiên cứu, thì sẽ được tự động nghiên cứu. Giờ chúng ta cần cơ sở hạ tầng cho Swarm.

Andrej Karpathy
@karpathy
03-10
Three days ago I left autoresearch tuning nanochat for ~2 days on depth=12 model. It found ~20 changes that improved the validation loss. I tested these changes yesterday and all of them were additive and transferred to larger (depth=24) models. Stacking up all of these changes,
Khu vực:
Từ Twitter
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận