Tác giả: J1N, Techub News

Lời nói đầu

Hôm nay, tôi chia sẻ về Kuzco, một mạng lưới khai thác sức mạnh tính toán của các mô hình ngôn ngữ lớn (LLM), được chọn tham gia Chương trình Gia tốc Khởi nghiệp Crypto (CSX) do a16z khởi động tại New York vào mùa thu này. Các dự án được chọn sẽ nhận được ít nhất 500.000 USD đầu tư từ a16z trong vòng 8 tuần và được hướng dẫn, hỗ trợ từ đội ngũ vận hành của a16z. Hiện còn khoảng 2 tuần nữa là kết thúc chương trình.

Dự án Kuzco vẫn ở giai đoạn rất sớm, cùng với io.net thuộc lĩnh vực mạng lưới tỷ lệ băm GPU, nhưng đi theo hướng phát triển khác. Trong khi io.net đã sớm hoàn thành airdrop cho người dùng và được niêm yết trên các sàn giao dịch lớn như Binance, Coinbase, Bybit, nhờ có nguồn tài chính và bối cảnh mạnh mẽ.

Tôi đã tự tay tham gia khai thác io.net, thật sự đó là một "lâu đài trên không" khi chỉ cần treo card đồ họa là có thể kiếm tiền một cách dễ dàng, mà không tốn nhiều điện năng. Mỗi máy đào chỉ tiêu tốn 1,2 kWh mỗi ngày, tổng cộng 10,8 USD tiền điện trong 3 tháng. Cộng thêm chi phí khấu hao card đồ họa cũ và chi phí kết nối internet, chỉ khoảng 100-200 USD là có thể bắt đầu. Cuối cùng, tôi thu về 4.000 USD, thật là một "lâu đài trên không".

Sau đó, sự sụt giảm giá token đã chứng minh điều này. Ngoài ra, tôi cũng đã biên soạn một bài viết có tiêu đề Giá sụt giảm 70%: Bong bóng cho thuê sức tính toán AI đã vỡ như thế nào?, phản ánh thêm về bong bóng trong thị trường sức tính toán AI. Cả giá thuê và giá token đều đang được thị trường điều chỉnh về giá trị thực, đây là xu hướng hợp lý, cho thấy tương lai có thể sẽ phát triển theo hướng hợp lý hơn.

Kuzco có cơ chế khai thác khác biệt so với các dự án nóng trước đây như io.net. io.net là một "lâu đài trên không", chỉ cần treo card đồ họa là có thể kiếm được lợi nhuận gấp nhiều lần, nhưng không có giá trị thực rõ ràng. Trong khi Kuzco lại hướng đến giá trị thực và được sự hỗ trợ của a16z. Tôi đã dành nhiều tuần để thực sự kiểm tra các cấu hình máy đào khác nhau, bao gồm một card, nhiều card và các hệ thống khác nhau. Thông qua những hoạt động thực tế này, tôi sẽ chia sẻ những kinh nghiệm thực tế, giúp mọi người hiểu rõ hơn về một dự án khai thác mang lại giá trị thực cho người dùng, chứ không chỉ dựa vào bong bóng.

Mạng lưới khai thác sức mạnh tính toán của các mô hình ngôn ngữ lớn

Kuzco là một mạng lưới GPU phi tập trung trong hệ sinh thái Solana, nhằm tận dụng tài nguyên GPU nhàn rỗi của người dùng cá nhân để cung cấp dịch vụ tính toán hiệu quả và giá rẻ cho các mô hình ngôn ngữ lớn (như Llama3, Mistral, Phi3). Người dùng có thể sử dụng các mô hình này thông qua API tương thích với OpenAI. Kiến trúc phân tán của Kuzco có thể tích hợp các tài nguyên tính toán nhàn rỗi, cho phép chạy các mô hình ngôn ngữ lớn, đồng thời khuyến khích những người cung cấp tài nguyên tính toán thông qua cơ chế thưởng.

Tình hình vận hành dự án

Tính đến ngày 21/10, dự án Kuzco có 2.000 máy đào GPU hoạt động, cao nhất từng đạt 6.000 máy. Các mẫu GPU phổ biến nhất là 3090, 3060 và các loại tương tự. Hiện tại, thợ đào đang nhận được phần thưởng là KZO Point, nhưng những điểm này vẫn chưa thể quy đổi thành tiền. Dự án cũng chưa công bố mô hình kinh tế token. Tôi dự đoán rằng, khi chương trình gia tốc của a16z tiến triển, dự án này có thể sẽ có thêm nhiều cập nhật và tiến triển mới.

Cách triển khai

Yêu cầu phần cứng chính thức

Dự án Kuzco có thể chạy trên hệ điều hành Mac, Windows và Linux, hỗ trợ nhiều cấu hình phần cứng khác nhau. Yêu cầu tối thiểu là 16GB RAM, 30GB dung lượng ổ cứng và tối thiểu 10Mb/s băng thông internet. Kuzco hỗ trợ các card đồ họa NVIDIA (N-card) và AMD (A-card) có tối thiểu 8GB bộ nhớ, với card N-card phổ thông là GTX750 trở lên, còn các card tính toán chuyên dụng hầu hết đều được hỗ trợ.

Tuy nhiên, tôi không khuyến khích sử dụng card A-card để khai thác, vì tính tương thích của AMD kém hơn, đặc biệt là trong các tác vụ AI. Nếu bạn vẫn muốn dùng A-card, hãy kiểm tra danh sách các mẫu được hỗ trợ. Trong lĩnh vực AI, tôi phải nói rằng: AMD, NO!

Nền tảng 5 card của tôi, mainboard Gigabyte Z490

Tôi đã kiểm tra hiệu suất khai thác của một số mẫu phần cứng, nhưng do biến động của mạng, hiệu suất có thể thay đổi.

• GTX1070: 20 tok/s

• RTX2060: 30 tok/s

• RTX2070S: 40 tok/s

• RTX3080: 80 tok/s

• RTX4060Ti: 50 tok/s

• RTX4070S: 70 tok/s

• M2: 20 tok/s

• M3: 30 tok/s

Đơn vị: Số lượng Token trung bình / Giây (Số lượng Token tính toán trung bình mỗi giây)

Giám sát tình trạng hoạt động của máy đào theo thời gian thực

Cách triển khai

Kuzco cung cấp ứng dụng máy trạm, người dùng có thể tải về và sử dụng để bắt đầu khai thác, nhưng cách này đôi khi không ổn định, có thể bị mất kết nối và không tự động khởi động lại. Tôi khuyên nên sử dụng hệ thống Linux hoặc Windows WSL (Windows Subsystem for Linux) ổn định hơn, chạy bằng dòng lệnh (CLI) hoặc container Docker. Nếu muốn sử dụng nhiều card đồ họa, có thể chỉ định GPU cụ thể trong container Docker trên Linux để khai thác đa card. Ví dụ, để chỉ định GPU0: "docker run --rm --runtime=nvidia --gpus '"device=0"' -d kuzcoxyz/worker:latest --worker <workerid> --code <code>", có thể khởi động nhiều GPU.

Khi khai thác đa card, cần lưu ý các yếu tố phần cứng sau:

Nguồn điện: Nguồn điện là yếu tố then chốt, không nên tiết kiệm. Tôi khuyên nên mua nguồn điện theo tỷ lệ "1 Nhân dân tệ = 1 Watt", và ưu tiên sử dụng nguồn điện cấp độ vàng. Khi khai thác, hãy chọn nguồn điện 1.500W đến 2.000W phù hợp với số lượng card đồ họa, hoặc sử dụng nhiều nguồn điện, nhưng cần có dây khởi động nối với mainboard để cấp điện đầy đủ, nếu không sẽ không thể khởi động bình thường.

Thông tin về mức tiêu thụ điện năng

Dây cáp: Trong môi trường tiêu thụ điện cao, dây cáp điện dễ bị hư hỏng, vì vậy tôi khuyên nên sử dụng dây cáp chất lượng tốt hơn. Ngoài ra, các nguồn điện của các thương hiệu khác nhau sử dụng các loại đầu nối khác nhau, không thể thay thế lẫn nhau. Nếu sử dụng dây cáp không tương thích với nguồn điện, có thể gây hư hỏng hoặc cháy thiết bị. Do đó, dây cáp phải phù hợp với thương hiệu nguồn điện để đảm bảo tính tương thích.

Dây cáp điện bị hư hỏng do lão hóa

Mainboard: Mỗi kênh (x1, x8, x16) trên mainboard chỉ có thể hỗ trợ một card đồ họa. Ví dụ, có bao nhiêu kênh thì có thể hỗ trợ bấy nhiêu card đồ họa. Thời kỳ khai thác Ethereum, mainboard B85 là một lựa chọn tốt.

Nền tảng B85 mà tôi từng tham gia khai thác Ethereum, đã bị hư hỏng

CPU: Do cần

Giới trẻ nên sử dụng i9, không cần phải quan tâm đến e5 vì danh tiếng

Thẻ đồ họa: Một tiến trình Docker sử dụng khoảng 6 GB bộ nhớ đồ họa (tài liệu chính thức ghi là 8 GB, nhưng thực tế 6 GB cũng có thể chạy). Nếu thẻ đồ họa có 12 GB bộ nhớ, bạn có thể chạy hai tiến trình Docker trên một thẻ đồ họa. Khi khai thác, tải của thẻ đồ họa sẽ chiếm 50% đến 90% và nhiệt độ của thẻ đồ họa nên được duy trì dưới 85 độ để an toàn và hợp lý.

Cáp chuyển đổi PCIE: Khuyến nghị sử dụng cáp chuyển đổi PCIE từ x1 sang x16, cắm x1 vào bo mạch chủ và x16 vào thẻ đồ họa. Nếu sử dụng thẻ đồ họa dòng 40, cần sử dụng dây nối dài x16.

Chất lượng kết nối mạng: Chất lượng kết nối mạng sẽ ảnh hưởng rất lớn đến hiệu suất khai thác. Tác giả thử nghiệm thấy rằng, sử dụng nút mạng ở Singapore nhận được nhiều nhiệm vụ tính toán hơn so với nút ở Hồng Kông, nghĩa là lựa chọn nút mạng tốt hơn có thể cải thiện hiệu suất khai thác.

Nếu gặp sự cố trong quá trình khai thác, trước tiên cần kiểm tra tình trạng hoạt động của bo mạch chủ và phần mềm. Nếu vấn đề ở cấp độ phần mềm, có thể kiểm tra thông tin lỗi trong terminal để xác định, có thể do lỗi bộ nhớ cần khởi động lại máy tính; hoặc do bản cập nhật chính thức, mã khai thác cục bộ chưa được cập nhật kịp thời, giải pháp là thay đổi nút hoặc cập nhật mã.

Lỗi khi chạy

Ở cấp độ phần cứng, nếu máy khai thác không thể khởi động, đầu tiên kiểm tra đèn báo lỗi trên bo mạch chủ. Lấy ví dụ bo mạch chủ Asus, lỗi phổ biến nhất là đèn trắng VGA, có nghĩa là có vấn đề với nguồn điện của thẻ đồ họa, trong trường hợp này có thể thử cắm lại PCIE và dây nguồn thẻ đồ họa. Tuy nhiên, đôi khi đèn trắng có thể sáng nhưng máy vẫn hoạt động bình thường.

Tóm lại

Mặc dù tác giả gọi io.net là "lâu đài trên không", ám chỉ giá trị thị trường của nó bị đánh giá quá cao, nhưng nó thực sự đã thành công huy động được 40 triệu USD với mức định giá 1 tỷ USD. Tuy nhiên, sau khi ra mắt, đã xuất hiện nhiều bản sao, những sản phẩm và nguồn vốn phía sau các bản sao này không thể chịu được kiểm chứng nghiêm ngặt, cho thấy sự thành công của io.net không phải ai cũng có thể dễ dàng nhân rộng.

Dựa trên quan sát này, tác giả luôn tìm kiếm một dự án khai thác có giá trị thực tế hơn. Cuối cùng, tác giả đã tìm thấy Kuzco. Trước tiên, Kuzco đã được a16z ươm tạo và hỗ trợ, điều này tăng thêm độ tin cậy và tiềm năng của nó. Thứ hai, cơ chế khai thác của Kuzco thực sự cung cấp dịch vụ tính toán thông qua GPU.

Quan trọng hơn, từ góc độ vĩ mô, lĩnh vực mà Kuzco hoạt động, các mô hình ngôn ngữ lớn (LLM), là sản phẩm AI được sử dụng rộng rãi nhất hiện nay, hàng ngày có vô số người trên toàn cầu sử dụng các mô hình này, và những mô hình này cần sự hỗ trợ của lượng tính toán khổng lồ. Tác giả cho rằng, cung cấp tính toán cho nhu cầu khổng lồ như vậy không chỉ rất có ý nghĩa mà còn có giá trị kinh doanh thực tế, vì vậy Kuzco là một dự án đáng chú ý.

Hơn nữa, chi phí tham gia mạng lưới tính toán GPU tương đối thấp, đặc biệt là giá thẻ đồ họa dòng 40 trên thị trường tay hai ổn định, chi phí khấu hao thấp, vì vậy đáng để mua. Tuy nhiên, tác giả lưu ý không nên chọn thuê thẻ đồ họa, vì phí thuê cao hơn nhiều so với mua thẻ đồ họa cũ. Đồng thời, các chương trình khuyến khích airdrop của Kuzco chưa rõ ràng, nếu vội vàng thuê thẻ đồ họa với quy mô lớn sẽ có rủi ro cao.

Hơn nữa, bản thân máy khai thác có giá trị sử dụng rất cao, không chỉ để khai thác Kuzco mà còn ổn định và đáng tin cậy hơn so với đầu tư trực tiếp vào các Altcoin rủi ro cao. Do máy khai thác có khả năng mở rộng tốt, ngoài khai thác Kuzco, còn có thể dùng để khai thác các dự án GPU khác, hoặc sử dụng nó làm nút xác nhận blockchain, chạy một số kịch bản và dịch vụ để tăng thêm lợi nhuận. Điều này có nghĩa là ngay cả khi không còn khai thác Kuzco nữa, máy khai thác vẫn có thể tiếp tục tạo ra giá trị.

Cuối cùng, nhiều người hỏi khai thác một ngày có thể kiếm được bao nhiêu, câu hỏi này không có câu trả lời cụ thể, ngoài dự án, không ai có thể biết chính xác lợi nhuận cuối cùng là bao nhiêu. Lợi nhuận từ khai thác rất không chắc chắn, có thể rất cao, cũng có thể thấp hơn dự kiến, nên không thể xác định trước được số tiền cụ thể có thể kiếm được.