Bài viết này được dịch máy
Xem bản gốc
Khi trò chuyện với những người bạn không phải là lập trình viên nhưng mới bắt đầu tìm hiểu về AI, tôi nhận ra lý do tại sao họ lại tiêu tốn nhiều token và nhanh chóng vượt quá giới hạn:
- Họ sử dụng mọi thứ trong cùng một cuộc trò chuyện, vì vậy cuộc trò chuyện cứ ngày càng dài ra, và bạn đang gửi cho nó ngày càng nhiều ngữ cảnh.
Khi lập kế hoạch cho một dự án, bạn phải chia nhỏ nó thành các chức năng nhỏ hơn. Mỗi chức năng sẽ là một quá trình phát triển riêng biệt. Ví dụ, trong OpenCode, bạn sử dụng `/new` để bắt đầu một phiên mới. Bản thân OpenCode đủ thông minh để biết phải tìm ở đâu trong thư mục hiện tại.
Tôi thấy một số người sử dụng Cursor và tiêu tốn từ 900k đến 3 triệu token cho mỗi yêu cầu. Thật điên rồ! Cửa sổ ngữ cảnh của tôi không vượt quá 150k token trên toàn bộ cuộc trò chuyện. Luôn luôn coi mỗi cuộc trò chuyện là một tính năng, không phải là một dự án. Bạn không chỉ sẽ có nhiều token hơn để phát triển, mà mô hình cũng sẽ trở nên ngày càng không đáng tin cậy khi số lượng token tăng lên vượt quá một ngưỡng nhất định.
Từ Twitter
Tuyên bố từ chối trách nhiệm: Nội dung trên chỉ là ý kiến của tác giả, không đại diện cho bất kỳ lập trường nào của Followin, không nhằm mục đích và sẽ không được hiểu hay hiểu là lời khuyên đầu tư từ Followin.
Thích
Thêm vào Yêu thích
Bình luận
Chia sẻ
Nội dung liên quan





