Venice vừa triển khai công nghệ suy luận AI được mã hóa đầu cuối. Mọi nền tảng AI lớn hiện nay đều hoạt động dựa trên cùng một giả định cơ bản về sự tin tưởng. Bạn phải tin tưởng nhà cung cấp sẽ xử lý dữ liệu của bạn một cách có trách nhiệm. @AskVenice hoạt động với một kiến ​​trúc hơi khác. Các cuộc hội thoại được lưu trữ cục bộ trên thiết bị của bạn và các lời nhắc không được lưu trữ trên máy chủ. Khi bạn sử dụng mô hình biên giới, Venice sẽ đóng vai trò trung gian cho yêu cầu, do đó nhà cung cấp sẽ không bao giờ nhận được dữ liệu nhận dạng của bạn. Tuy nhiên, các giả định về độ tin cậy vẫn được áp dụng ở đây. Nếu Venice hoặc đối tác muốn chặn dữ liệu, không có gì trong kiến ​​trúc có thể ngăn cản điều đó. Phiên bản mới này giới thiệu hai chế độ bảo mật được thực thi bằng phần cứng. TEE thực hiện suy luận bên trong các vùng bảo mật phần cứng do NEAR AI Cloud và Phala Network vận hành, cách ly quá trình tính toán khỏi hệ điều hành máy chủ và nhà điều hành cơ sở hạ tầng. Chứng thực từ xa liên kết chứng chỉ mật mã với phần cứng vật lý để bất kỳ ai cũng có thể xác minh độc lập rằng mô hình đang chạy bên trong một vùng bảo mật chính hãng. Bạn không còn cần phải tin tưởng nhà điều hành GPU nữa nhưng vẫn tin tưởng vào lớp trung gian của Venice. Mã hóa đầu cuối (E2EE) loại bỏ giả định về sự tin tưởng còn lại. Các thông báo được mã hóa trên thiết bị trước khi truyền, được mã hóa xuyên suốt cơ sở hạ tầng của Venice và chỉ được giải mã bên trong vùng bảo mật đã được xác minh. Venice không thể xem dữ liệu của bạn tại bất kỳ thời điểm nào trong quá trình hoạt động bình thường. Nhược điểm là phản hồi có thể chậm hơn, chức năng tìm kiếm trên web và bộ nhớ bị vô hiệu hóa vì chúng yêu cầu giải mã bên ngoài vùng bảo mật. Cả hai chế độ hiện đang chạy trên một số mô hình mã nguồn mở thông qua NEAR AI Cloud và Phala Network và chỉ dành riêng cho người dùng đăng ký gói Pro. Tính hiệu quả thực tế của những đảm bảo này phụ thuộc vào việc thực hiện chứng thực và liệu các cuộc kiểm toán độc lập có xác nhận những tuyên bố đó hay không.