Khi AI Agent trở thành chủ đề chính trong lĩnh vực AI, ngành công nghiệp AI cũng dần bước vào kỷ nguyên 2.0. Tập trung vào khái niệm AI Agent, đây là một hệ thống thông minh có khả năng cảm nhận môi trường, ra quyết định và thực hiện nhiệm vụ hoặc dịch vụ, thường có thể hiểu các chỉ dẫn bằng ngôn ngữ tự nhiên, học các sở thích của người dùng và trong một số trường hợp, có thể tự đưa ra quyết định.

Công việc của AI Agent chỉ cần được đặt một mục tiêu, nó sẽ có thể suy nghĩ và hành động độc lập để đạt được mục tiêu đó, phân tích từng bước kế hoạch chi tiết dựa trên nhiệm vụ được giao, dựa vào phản hồi từ bên ngoài và suy nghĩ độc lập, tự tạo ra prompt để đạt được mục tiêu. Chúng ta có thể hiểu AI Agent = Chatbot (giao diện tương tác) + Quy trình làm việc tự động hoàn toàn (cảm nhận, suy nghĩ, hành động) + Cơ sở dữ liệu tri thức tĩnh (bộ nhớ).

Một số trường hợp sử dụng AI Agent điển hình như tự động lái xe, khi người dùng nhập điểm đến, AI Agent sẽ thay thế con người hoàn thành nhiệm vụ lái xe dựa trên các thuật toán AI và kết hợp nhiều kỹ thuật nhìn thấy, chủ động ra quyết định và thực hiện, thể hiện sự tự chủ và khả năng thích ứng thực sự. Ngành công nghiệp game cũng đang tích cực thử nghiệm các giải pháp AI Agent, chẳng hạn như sử dụng AI Agent mô phỏng người chơi thực, đóng vai trò đối thủ trong game, tự thực hiện nhiệm vụ trong game (như hành vi của NPC, diễn biến câu chuyện), thậm chí có thể điều chỉnh độ khó của trò chơi dựa trên thành tích của người chơi để đảm bảo trải nghiệm không mất tính thách thức. Ngoài các lĩnh vực nêu trên, sản xuất, tài chính, y tế, nông nghiệp, an ninh mạng và nhiều lĩnh vực khác cũng đang liên tục thử nghiệm ứng dụng AI Agent.

Tất nhiên, khi AI Agent được khám phá rộng rãi trong các lĩnh vực khác nhau, quan tâm của ngành AI cũng đã dần mở rộng từ tính toán, thuật toán và dữ liệu ban đầu đến các vấn đề quan trọng hơn như quyền riêng tư và bảo mật.

Những lo ngại về độ tin cậy của AI Agent

Thực tế, các AI Agent hiện tại thường mang tính bán tự chủ, nghĩa là có một số khả năng ra quyết định và thực hiện nhiệm vụ độc lập, nhưng quá trình hoạt động của chúng vẫn cần sự hướng dẫn, phản hồi hoặc giám sát của con người. Thông thường, AI Agent có thể hoàn thành độc lập các nhiệm vụ hoặc điều chỉnh hành vi trong phạm vi đã được thiết lập, nhưng khi gặp phải các tình huống phức tạp hoặc vượt quá phạm vi đã định, cần sự can thiệp của con người để đảm bảo an toàn và chính xác.

Điều này có nghĩa là, đa số AI Agent trong một mức độ lớn phụ thuộc vào Prompt AI để thực hiện tương tác hiệu quả giữa con người và AI. Đối với những độc giả không biết Prompt là gì, Prompt là đoạn chỉ dẫn đầu vào mà người dùng cung cấp cho mô hình AI, nhằm hướng dẫn AI tạo ra kết quả đầu ra tương ứng. Prompt có thể là một câu hỏi, một mô tả, một đoạn văn bản hoặc thậm chí là một đoạn mã.

Ví dụ, nếu tôi muốn yêu cầu ChatGPT viết một bài báo, tôi sẽ mô tả yêu cầu hoặc nhu cầu dưới dạng văn bản và gửi cho GPT, đây chính là một Prompt. Hoặc đối với một chiếc ô tô có khả năng tự lái, tôi cần cung cấp cho nó điểm đến và các ưu tiên về tuyến đường, đây cũng là một Prompt.

Vậy thì vấn đề có thể nằm ở đây.

Các AI Agent bán tự chủ hiện tại thường phụ thuộc vào các thực thể tập trung, với tư cách là người dùng, thông thường chỉ quan tâm đến Prompt và kết quả suy luận, nhưng quá trình tương tác của người dùng với AI Agent và quá trình suy luận của mô hình AI đều nằm trong "hộp đen", chúng ta không thể xác minh độ tin cậy của chúng.

Vì vậy, liệu Prompt của người dùng có bị thay đổi trong quá trình thực hiện của AI Agent không? AI Agent có truy cập vào các chương trình độc hại trong quá trình thu thập thông tin không? Đầu ra do AI Agent tạo ra có tuân thủ các quy tắc hoặc kỳ vọng đã định sẵn, không tạo ra thông tin giả hoặc không đáng tin cậy không? Dữ liệu nhạy cảm (khóa riêng tư của ví mã hóa, dữ liệu y tế, thông tin cá nhân, v.v.) mà người dùng nhập vào mô hình AI có được bảo vệ về quyền riêng tư và an toàn không? Tất cả những điều này dường như không rõ ràng.

Tương tự, AI Agent phụ thuộc quá mức vào các máy chủ tập trung, và những người quản lý máy chủ, những người triển khai chúng, có quyền hạn tối cao, kiểm soát một phần tài sản và dữ liệu cá nhân của người dùng mà AI Agent nắm giữ, ảnh hưởng đến hành vi của AI Agent. Một số quan điểm cũng cho rằng hệ sinh thái AI hiện tại đang phát triển theo hướng kiểm soát bởi một số ít công ty, những công ty này có động cơ độc quyền phát triển và sử dụng mô hình AI, điều này có thể dẫn đến một số quan ngại về mặt đạo đức và đạo đức.

Thậm chí đối với một số AI Agent hướng đến Web3 như Eliza của a16z, Virtuals Protocol, chỉ đơn giản là đặt một phần quản lý danh tính, hoạt động kinh tế và quản trị trên chuỗi, nhưng lõi của việc suy luận, tính toán, lưu trữ dữ liệu và tương tác thời gian thực vẫn phụ thuộc vào các máy chủ ngoài chuỗi, bản chất vẫn tồn tại các vấn đề nêu trên.

Do đó, đối với người dùng, khi sử dụng hầu hết các dịch vụ AI Agent, họ phải chấp nhận tin tưởng vào những quy tắc ngầm định, và không thể xác minh độ tin cậy ở bất kỳ khâu nào. Điều này khiến ngày càng nhiều người hoài nghi về độ đáng tin cậy của AI Agent, ít nhất là đối với một số trường hợp liên quan đến tiền bạc, an toàn cá nhân, chẳng hạn như các giao dịch tự động hóa trên chuỗi do AI Agent thực hiện.

Do đó, AI Agent hiện tại thiếu một cơ chế để xác minh tính hợp pháp và an toàn của các hoạt động này, và cho đến khi vấn đề này được giải quyết hoàn hảo, lĩnh vực này sẽ vẫn ở trong "kỷ nguyên hỗn loạn".

Tuy nhiên, những lo ngại về độ tin cậy của AI Agent không phải là vấn đề không thể giải quyết, Zypher Network đã xây dựng một hạ tầng xử lý phụ trợ dựa trên các giải pháp chứng minh không tri thức, nhằm giải quyết bế tắc về độ tin cậy mà AI Agent đang đối mặt.

Zypher Network: Làm cho Agent an toàn trở lại!

Zypher Network là một hạ tầng xử lý phụ trợ lấy các giải pháp chứng minh không tri thức làm trọng tâm, có thể cung cấp dịch vụ ZK cho tất cả các ứng dụng và cơ sở hạ tầng có nhu cầu chứng minh không tri thức.

Zypher Network bao gồm một mạng lưới tính toán ngoài chuỗi由 các nút tính toán phân tán tạo thành, và một động cơ chuỗi gọi là Zytron. Khi có nhiệm vụ tính toán chứng minh không tri thức trong mạng Zypher, hệ thống Zypher sẽ phân công nhiệm vụ tính toán cho các thợ đào và tạo ra ZKP, ZKP này có thể được xác minh trên chuỗi Zytron để đảm bảo dữ liệu, giao dịch, hành vi, v.v. là đáng tin cậy và trung thực. Zypher đã áp dụng thực tiễn trong lĩnh vực game Web3, và hiện có hàng chục trò chơi Web3 đang chạy, những trò chơi này do AI điều khiển (thực hiện logic của trò chơi bằng AI Agent) và có thể chạy an toàn, đáng tin cậy mà không cần phụ thuộc vào máy chủ tập trung.

Gần đây, Zypher đã phát hành một lớp tính toán chứng minh không tri thức mới, cung cấp hai năng lực cốt lõi chính là Proof of Prompt và Proof of Inference cho lĩnh vực AI Agent, bằng cách chứng minh công khai rằng Prompt và quá trình suy luận là chính xác và không bị thay đổi, đồng thời không tiết lộ dữ liệu nhạy cảm bên dưới, để đảm bảo tính xác minh và độ tin cậy của quá trình Prompt và suy luận của AI Agent.

Đáng chú ý là, mặc dù hiện nay cũng có nhiều giải pháp khác cố gắng mang lại độ tin cậy cho AI Agent, nhưng Zypher là giải pháp duy nhất không phụ thuộc vào phần cứng, chỉ sử dụng các kỹ thuật mật mã học chứng minh không tri thức để đạt được mục tiêu này.

Zk Prompt

Như đã đề cập ở trên, vấn đề lớn nhất trong mô hình AI Agent truyền thống là không thể đảm bảo độ tin cậy của Prompt, bao gồm việc Prompt có bị thay đổi hay không, liệu mô hình có được điều khiển bởi Prompt chính xác hay không, và liệu dữ liệu nhạy cảm trong Prompt có bị lộ hay không.

Zypher đang sử dụng giải pháp zk Prompt trong lớp tính toán để đảm bảo tính xác minh và độ tin cậy của Prompt, mục tiêu là đảm bảo tính chính xác

Xét về quá trình vận hành, các nhà phát triển AI Agent và các nhà phát triển ứng dụng AI Prompt có thể sử dụng zk Prompt để tạo và định nghĩa System Prompt, nhằm đảm bảo mô hình AI có thể thực hiện các nhiệm vụ cụ thể theo dự kiến.

Sau khi System Prompt được khởi tạo, Prompt sẽ được truyền đến mô hình LLM để tải, đồng thời tạo ra một cam kết mã hóa thông qua một lược đồ cam kết, và sử dụng mạng tính toán ZK của Zypher để tạo ra một bằng chứng không thể thay đổi. Quá trình này sẽ ghi lại tính toàn vẹn và tính nhất quán của Prompt, đảm bảo Prompt có thể hướng dẫn mô hình tạo ra hành vi như mong đợi.

Đối với người dùng sử dụng Prompt, họ có thể tải về Prompt được cam kết và tệp chứng minh tương ứng, sau đó xác minh mô hình hiện tại với Prompt được cam kết. Kết quả xác minh sẽ xác định liệu Prompt của người dùng có bị thay đổi hay không, từ đó đảm bảo Prompt và hành vi của mô hình phù hợp với thiết lập ban đầu của nhà phát triển.

Ví dụ tương tác

zk Prompt đã xây dựng một cơ chế tương tác đáng tin cậy giữa AI Agent, mạng tính toán ZK, DApp và hợp đồng thông minh, đảm bảo tính toàn vẹn và tính nhất quán của Prompt, cung cấp bảo đảm đáng tin cậy cho hành vi của mô hình AI.

Khi nhà phát triển AI Agent sử dụng zkPrompt để định nghĩa và gửi System Prompt, Prompt sẽ được xử lý mã hóa, tạo ra một cam kết mã hóa (Commitment), đồng thời khởi tạo AI Agent và tạo ra một mạch điện tử mã hóa liên quan đến lời nhắc, đảm bảo nội dung Prompt không thể bị thay đổi trong hệ thống. Cùng lúc, AI Agent sẽ gửi khóa xác minh đến mạng tính toán ZK của Zypher, làm cơ sở cho việc xác minh sau này.

Khi DApp khởi tạo yêu cầu tin nhắn hoặc giao dịch, AI Agent sẽ nhận yêu cầu và ủy thác nhiệm vụ tính toán cho mạng tính toán ZK xử lý. Trong mạng tính toán ZK, kết quả thực hiện Prompt được xác minh dưới dạng bằng chứng không tri thức, bằng chứng này không chỉ ghi lại quá trình thực hiện nhiệm vụ, mà còn đảm bảo tính nhất quán giữa Prompt và hành vi, sau đó gửi tệp chứng minh về cho hợp đồng thông minh hoặc DApp để xác minh tiếp.

Hợp đồng thông minh Zytron trên chuỗi của Zypher sẽ xác minh bằng chứng không tri thức và cam kết mã hóa, xác nhận tính chính xác của nội dung Prompt và hành vi thực hiện. Nếu nội dung Prompt bị thay đổi hoặc thực hiện không phù hợp với thiết lập ban đầu, quá trình xác minh sẽ thất bại, từ đó hiệu quả ngăn chặn các vấn đề tiềm ẩn. Cơ chế xác minh này cung cấp sự hỗ trợ mạnh mẽ cho độ tin cậy của Prompt và đảm bảo mô hình AI luôn hoạt động theo dự kiến của nhà phát triển.

Do đó, thông qua hợp tác với hợp đồng thông minh và các đối tượng blockchain khác, Zypher có thể thực hiện các mục tiêu an toàn minh bạch và có thể xác minh hơn, đồng thời có thể dễ dàng tích hợp vào nhiều trường hợp sử dụng Web3.

Xét về đặc điểm, zk Prompt có thể đảm bảo cho AI Agent:

• Bảo mật dữ liệu: Người dùng có thể xác minh tính chính xác của lời nhắc mà không cần xem hoặc hiểu nội dung cụ thể của lời nhắc, bảo vệ tính nhạy cảm của lời nhắc.
• Độ tin cậy và minh bạch: Thông qua bằng chứng không tri thức, người dùng có thể tin tưởng rằng hành vi của AI không bị thay đổi một cách ác ý.
• Xác minh phân tán: Bất kỳ người dùng hoặc bên thứ ba nào cũng có thể xác nhận tính nhất quán giữa lời nhắc và mô hình thông qua quá trình xác minh, mà không phụ thuộc vào thực thể tập trung.

Dựa trên zk Prompt, nó không chỉ có thể đảm bảo tính tin cậy của Prompt, mà còn có thể mở rộng sang Proof of Inference, cũng có thể đảm bảo quá trình suy luận của AI Agent là đáng tin cậy, kết quả suy luận được tạo ra dựa trên đầu vào hợp pháp.

Tóm lại, giải pháp zk Prompt đặc biệt phù hợp với các tình huống nhiệm vụ quan trọng, chẳng hạn như liên quan đến thông tin tài chính nhạy cảm hoặc yêu cầu hướng dẫn hành động rõ ràng của AI Agent, để đảm bảo độ tin cậy và cung cấp bảo đảm an toàn cao.

An toàn tốt hơn

Trong cuộc đua xây dựng AI Agent đáng tin cậy, giải pháp TEE được áp dụng rộng rãi nhờ môi trường cách ly được xây dựng trên phần cứng, có thể đạt được một mức độ bảo vệ dữ liệu riêng tư và tính có thể xác minh của việc thực hiện. Mặc dù TEE là một giải pháp bảo mật chính thống và được áp dụng rộng rãi trong nhiều lĩnh vực, nhưng vẫn còn một số hạn chế khi xây dựng AI Agent đáng tin cậy.

Thực tế, giải pháp TEE thường phụ thuộc vào môi trường đáng tin cậy và dịch vụ quản lý khóa do các nhà sản xuất phần cứng như Intel SGX và ARM TrustZone cung cấp. Cơ chế tin cậy tập trung này khiến cho tính an toàn của hệ thống phụ thuộc rất lớn vào nhà sản xuất cụ thể, dẫn đến rủi ro tập trung, Intel SGX trước đây đã nhiều lần bị phát hiện lỗ hổng, trực tiếp đe dọa đến nền tảng đáng tin cậy của nó. Hơn nữa, mặc dù TEE cung cấp một môi trường chạy cách ly, khả năng bảo vệ dữ liệu riêng tư của nó vẫn còn hạn chế. Ví dụ, trong quá trình truyền dữ liệu đến môi trường TEE có thể đối mặt với rủi ro nghe lén, trong khi kẻ tấn công bên ngoài TEE cũng có thể thu thập thông tin nhạy cảm thông qua giao diện tương tác. Ngoài ra, TEE được thiết kế chủ yếu để thực hiện các nhiệm vụ tính toán được xác định trước, thiếu khả năng điều chỉnh động. Trong khi đó, AI Agent thường cần đối phó với nhiệm vụ đa dạng và bối cảnh phức tạp, kiến trúc cứng nhắc này cũng khó đáp ứng nhu cầu thực tế.

Ngược lại, giải pháp bằng chứng không tri thức của Zypher có đặc tính phi tập trung, không cần phụ thuộc vào bất kỳ thực thể tập trung nào, an toàn của nó dựa trên mạng lưới tính toán phân tán và quy mô lớn ở bên ngoài chuỗi. Điều này không chỉ mang lại ưu thế về tính nhẹ, mà còn rõ ràng vượt trội hơn về khả năng mở rộng và tính linh hoạt động so với TEE, cho phép nó tích hợp hiệu quả hơn vào các kịch bản ứng dụng đa dạng của AI Agent. Không kể đến ChatGPT hay Deepseek đang nổi lên, Zypher đều có thể tích hợp một cách mượt mà. Đáng chú ý là, giải pháp Zypher hoàn toàn dựa trên thiết kế ZK, lấy sự đổi mới về mật mã học làm cốt lõi, nổi bật trong lĩnh vực giải pháp AI Agent đáng tin cậy.

Tóm lại, mặc dù công nghệ AI đang phát triển với tốc độ chóng mặt, nhưng do các hạn chế về an toàn, đạo đức và tính thực dụng, việc phổ cập AI Agent hoàn toàn tự chủ vẫn đối mặt với nhiều thách thức. Ngược lại, AI Agent bán tự động, với sự cân bằng giữa tự động hóa và giám sát của con người, vẫn sẽ là xu hướng chủ đạo trong tương lai. Điều này cũng có nghĩa là trước khi AI Agent được áp dụng rộng rãi, cần có những tiến bộ về tính đáng tin cậy và bảo mật, và Zypher Network với giải pháp dựa trên ZK đang đẩy nhanh quá trình này, cung cấp nền tảng vững chắc cho sự phát triển của ngành AI Agent.

Là cơ sở hạ tầng mật mã học quan trọng nhất trong kỷ nguyên AI, Zypher Network đang "Làm cho Agent An toàn Trở lại"!