Lời của biên tập viên: Cùng với sự gia tăng ảnh hưởng của AI trong lĩnh vực tiền điện tử gần đây, thị trường bắt đầu tập trung vào vấn đề xác minh tính xác thực của AI. Bài viết này có sự phân tích từ các chuyên gia trong lĩnh vực tiền điện tử và AI về cách các công nghệ như phi tập trung, Blockchain và Bằng chứng không tri thức có thể đối phó với rủi ro lạm dụng các mô hình AI, đồng thời thảo luận về các xu hướng trong tương lai như xác minh suy luận, mô hình sở hữu tư nhân và suy luận tại thiết bị biên.
Nội dung gốc (đã được chỉnh sửa để dễ đọc):
Gần đây, chúng tôi đã ghi lại một cuộc thảo luận tròn cho hoạt động hàng tháng về AI của Delphi Digital, với sự tham gia của bốn nhà sáng lập tập trung vào lĩnh vực tiền điện tử và AI, cùng thảo luận về chủ đề AI có thể xác minh. Dưới đây là một số điểm chính.
Khách mời: colingagich, ryanmcnutty33, immorriv và Iridium Eagleemy.
Trong tương lai, các mô hình AI sẽ trở thành một dạng sức mạnh mềm, khi ứng dụng kinh tế của chúng ngày càng rộng và tập trung, cơ hội lạm dụng cũng sẽ tăng lên. Ngay cả khi đầu ra của mô hình không bị thao túng, chỉ cảm nhận được khả năng này cũng đã rất có hại.
Nếu quan điểm của chúng ta về các mô hình AI trở nên giống như đối với các thuật toán truyền thông xã hội, chúng ta sẽ gặp rất nhiều rắc rối, phi tập trung, Blockchain và tính xác minh là chìa khóa để giải quyết vấn đề này. Vì AI本质上là một hộp đen, chúng ta cần tìm cách làm cho quá trình AI có thể được chứng minh hoặc xác minh để đảm bảo nó không bị thao túng.
Đây chính là vấn đề mà suy luận có thể xác minh cần giải quyết, mặc dù các khách mời đã đạt được sự đồng thuận về vấn đề, nhưng họ lại theo các hướng giải quyết khác nhau.
Cụ thể hơn, suy luận có thể xác minh bao gồm: câu hỏi hoặc đầu vào của tôi không bị thao túng; mô hình tôi sử dụng là mô hình tôi đã hứa; đầu ra được cung cấp nguyên vẹn, không bị sửa đổi. Thực tế, định nghĩa này đến từ @Shaughnessy119, nhưng tôi rất thích sự súc tích của nó.
Điều này sẽ rất hữu ích trong trường hợp terminal chân lý hiện tại.
Sử dụng Bằng chứng không tri thức để xác minh đầu ra của mô hình, không nghi ngờ gì, ZK là phương pháp an toàn nhất. Tuy nhiên, nó cũng mang lại một số sự đánh đổi, chi phí tính toán tăng từ 100 đến 1000 lần. Hơn nữa, không phải tất cả nội dung đều có thể dễ dàng chuyển đổi thành mạch điện, do đó cần phải xấp xỉ một số hàm (như sigmoid) và có thể dẫn đến mất mát về xấp xỉ số thực.
Về chi phí tính toán, nhiều nhóm đang nỗ lực cải thiện các công nghệ ZK tiên tiến nhất để giảm đáng kể chi phí. Mặc dù các mô hình ngôn ngữ lớn có kích thước khổng lồ, nhưng hầu hết các trường hợp sử dụng tài chính có thể tương đối nhỏ, chẳng hạn như các mô hình phân bổ vốn, do đó chi phí trở nên không đáng kể. Môi trường thực thi đáng tin cậy (TEEs) phù hợp với những ứng dụng yêu cầu an ninh tối đa không cao, nhưng nhạy cảm hơn với chi phí hoặc kích thước mô hình.
Travis của Ambient đề cập đến cách họ dự định xác minh suy luận trên một mô hình phân mảnh rất lớn, đây không phải là một vấn đề chung mà là một giải pháp cho một mô hình cụ thể. Tuy nhiên, do Ambient vẫn đang ở giai đoạn bí mật, công việc này tạm thời được giữ kín, chúng ta cần chú ý đến các bài báo sắp được công bố.
Phương pháp lạc quan, tức là không tạo ra bằng chứng trong quá trình suy luận mà thay vào đó yêu cầu các nút thực hiện suy luận phải đặt cọc token, nếu bị nghi ngờ và phát hiện ra hoạt động không phù hợp thì sẽ bị tịch thu cọc, đã nhận được một số phản đối từ các khách mời.
Trước tiên, để thực hiện điều này, cần phải có đầu ra xác định, và để đạt được mục tiêu này, cần phải có một số sự thỏa hiệp, chẳng hạn như đảm bảo tất cả các nút sử dụng cùng một hạt giống ngẫu nhiên. Thứ hai, nếu đối mặt với rủi ro 100 tỷ đô la, cần phải đặt cọc bao nhiêu để đảm bảo an toàn kinh tế? Câu hỏi này cuối cùng vẫn chưa có câu trả lời rõ ràng, điều này nhấn mạnh tầm quan trọng của việc để người tiêu dùng lựa chọn liệu họ có sẵn lòng trả phí chứng minh đầy đủ hay không.
Về vấn đề mô hình sở hữu tư nhân, inference labs và aizel network đều có thể cung cấp hỗ trợ. Điều này đã gây ra một số tranh luận triết học, tin tưởng không cần phải hiểu mô hình đang chạy, do đó mô hình sở hữu tư nhân là không được ưa chuộng, mâu thuẫn với AI có thể xác minh. Tuy nhiên, trong một số trường hợp, hiểu biết về cách hoạt động bên trong của mô hình có thể dẫn đến bị thao túng, và cách duy nhất để giải quyết vấn đề này đôi khi chính là thiết lập mô hình thành sở hữu tư nhân. Nếu một mô hình sở hữu tư nhân vẫn đáng tin cậy sau 100 hoặc 1000 lần xác minh, mặc dù không thể truy cập các trọng số của nó, điều này cũng đủ để tạo ra niềm tin.
Cuối cùng, chúng tôi đã thảo luận về việc liệu AI suy luận có thể chuyển sang các thiết bị biên (như điện thoại và máy tính xách tay) do các vấn đề về quyền riêng tư, độ trễ và băng thông. Nhóm đã đạt được sự đồng thuận rằng sự chuyển đổi này đang đến, nhưng vẫn cần một vài lần lặp lại.
Đối với các mô hình lớn, không gian, nhu cầu tính toán và yêu cầu mạng là vấn đề. Tuy nhiên, các mô hình đang trở nên nhỏ hơn và các thiết bị cũng ngày càng mạnh mẽ hơn, do đó sự chuyển đổi này dường như đang xảy ra, chỉ là chưa hoàn toàn. Tuy nhiên, nếu hiện tại chúng ta có thể giữ cho quá trình suy luận được bảo mật, thì chúng ta vẫn có thể hưởng lợi ích của suy luận cục bộ mà không phải đối mặt với các chế độ thất bại.
Hãy tham gia cộng đồng chính thức của BlockBeats:
Nhóm đăng ký Telegram: https://t.me/theblockbeats
Nhóm thảo luận Telegram: https://t.me/BlockBeats_App
Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia
