avatar
NuNet
03-20
Bài viết này được dịch máy
Xem bản gốc

Ngành công nghiệp AI liên tục nói về điều phối. Nhưng họ đang nhầm lẫn hai khái niệm khác nhau. Điều phối phần mềm: điều phối logic của các tác nhân. Tác nhân nào xử lý nhiệm vụ nào. Cách chúng truyền thông tin. Khi nào cần leo thang. LangGraph, CrewAI, AutoGen; tất cả đều là điều phối phần mềm. Điều phối điện toán: điều phối các tài nguyên vật lý mà các tác nhân sử dụng. Phần cứng nào chạy khối lượng công việc nào. Cách phân bổ tài nguyên một cách linh hoạt. Điều gì xảy ra khi một máy bị lỗi. Bạn cần cả hai. Hầu hết mọi người chỉ nghĩ về cái đầu tiên. Điều phối phần mềm mà không có điều phối điện toán giống như viết một bản giao hưởng mà không có dàn nhạc. Bản nhạc tồn tại. Nhưng không ai có thể chơi được. NuNet hoạt động ở lớp điều phối điện toán. Giao thức này phát hiện các tài nguyên có sẵn trên bất kỳ phần cứng nào; thiết bị biên, GPU, máy chủ, trung tâm dữ liệu. Ghép nối khối lượng công việc một cách linh hoạt. Khôi phục sau sự cố. Thanh toán. Lớp phần mềm quyết định các tác nhân làm gì. Lớp điện toán đảm bảo rằng chúng thực sự có thể thực hiện điều đó. Cả hai lớp cần được điều phối. Nhưng chỉ có một lớp được xây dựng.

Từ Twitter
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận