Bài viết này được dịch máy
Xem bản gốc
Về điểm này, tôi nghĩ nhiều người đều biết, nhưng trong quá trình giảng dạy tại công ty, tôi nhận thấy mọi người thực sự không biết về các kỹ thuật trọng điểm trong việc phát triển agent: gọi công cụ, cho dù là function_calling hay gọi MCP, đều có hai loại: rõ ràng và ngầm định.
1️⃣ Gọi ngầm định: Thực thi công cụ tự động hiện đại
Các LLM gần đây đều có khả năng gọi công cụ tự động tích hợp sẵn. Ví dụ như (bạn có thể kiểm soát tính năng này thông qua cờ automatic_function_calling). Do tài liệu và ví dụ chủ yếu sử dụng gọi ngầm định, nếu bạn mới bắt đầu tiếp cận phát triển MCP trong hai tháng qua, rất có thể bạn đã sử dụng chế độ ngầm định.
Trong chế độ ngầm định, toàn bộ quy trình gọi công cụ đối với nhà phát triển là một hộp đen. LLM tự động xác định việc có cần gọi công cụ hay không, tự động chọn công cụ và tham số phù hợp, tự động thực thi công cụ và tích hợp kết quả. Nhà phát triển chỉ cần cung cấp danh sách công cụ, sau đó có thể trực tiếp nhận được câu trả lời bằng ngôn ngữ tự nhiên cuối cùng.
Gọi ngầm định là công nghệ mới hơn và là xu hướng trong tương lai, theo sự phát triển của khả năng mô hình lớn, phương thức này có lẽ sẽ trở thành chính thống.
Những sinh viên thông minh có lẽ đã đoán được, sau khi khen ngợi, thì sự chuyển đổi sẽ đến. Đúng vậy, gọi ngầm định có những nhược điểm tạm thời khó tránh khỏi.

马东锡 NLP
@dongxi_nlp
07-15
Kimi K2 的一大亮点,是将文本任务里基于 token 的处理思路,成功迁移到 Agentic 场景中的 tool-call 级别:在 Agentic 任务中,tool call 就相当于“行动 token”。
什么意思呢?解释如下:
在文本任务中:
CoT 是一串 token
而在Agentic 场景中:
CoT 是一段 tool-call 序列,即planning

3️⃣ Gọi rõ ràng: Kiểm soát chính xác chế độ phân tích cú pháp thủ công. Ngược lại, chế độ gọi rõ ràng yêu cầu nhà phát triển xử lý thủ công từng bước của lệnh gọi công cụ. Bạn cần thông báo rõ ràng cho LLM cách định dạng yêu cầu gọi công cụ trong lời nhắc hệ thống, sau đó phân tích thủ công các lệnh gọi công cụ trong câu trả lời của LLM, thực thi công cụ tương ứng và cuối cùng tích hợp kết quả vào câu trả lời cuối cùng.
Đây là phương pháp gọi cũ của MCP (mặc dù nó chỉ mới trở thành truyền thống trong nửa năm), ngầm hiểu là để LLM xử lý phần này.
Tuy nhiên, các lệnh gọi rõ ràng được sử dụng trong quá trình phát triển thực tế hiện nay không hoàn toàn lỗi thời.
4️⃣ Lệnh gọi hiển thị lấp đầy bán tự động
Tôi vừa đặt tên phương pháp. Phương thức cụ thể rất đơn giản. Trong MCP Client, khi truy vấn của người dùng được cung cấp danh sách các công cụ LLM, bạn cần yêu cầu nó không gọi chính công cụ đó mà trả về tên của công cụ cần gọi.
Tiếp theo, bạn cần để Máy khách gọi Máy chủ MCP theo cách thủ công. Vì phần dữ liệu này có thể là dữ liệu JSON đã được định dạng do API thông thường trả về, bạn có thể đóng gói dữ liệu này cùng với phản hồi LLM và trả về.
Phương pháp này không áp dụng được cho nhiều tình huống, vì nó đòi hỏi nhiều vòng đối thoại LLM, gây nhiều phiền toái hơn so với một cuộc đối thoại lần. Đồng thời, MCP HOST của bạn không nên là một máy trạm trò chuyện tổng quát quản lý mọi thứ. Phương pháp này phù hợp hơn với các dịch vụ cố định.
Nhưng ưu điểm là sau khi có dữ liệu thô, bạn có thể xử lý dữ liệu hoàn toàn tự do. Bạn có thể trực tiếp sử dụng lại mã của dịch vụ trước đó để xử lý dữ liệu và hiển thị giao diện người dùng. Phương pháp này tương thích với LLM không có chức năng gọi công cụ tự động. Dịch vụ mới do tôi phụ trách trong công ty chúng tôi áp dụng phương pháp này và phản hồi rất tốt.
Có phương pháp nào khác không? Tôi muốn nghe kinh nghiệm của bạn:
@dotey @chaowxyz @hylarucoder @yihong0618 @pangyusio
Phiên bản Substack: open.substack.com/pub/web3rove...…
Quaily:
quaily.com/cryptonerdcn/p/disc...…
@lyricwai @QuailyQuaily
Một số phản hồi cho những hiểu lầm khác nhau:

CryptoNerdCn
@cryptonerdcn
07-16
其实何止大模型输入需要在上下文里提供足够的信息呢,人类也是需要的。昨天我因为在这贴里忘了付上公司讲课时分享的前半段,就被几位质疑,又是觉得我在说“LLM有执行能力”,又是“我还以为是什么行业突破,没想到是细枝末节”😂 x.com/cryptonerdcn/s…
Từ Twitter
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận
Chia sẻ
Nội dung liên quan






