- CertiK đã cho ra mắt Skill Scanner, một sản phẩm bảo mật được xây dựng để đánh giá các Kỹ năng AI của bên thứ ba trước khi chúng được các tác nhân AI sử dụng.
- Công cụ này nhắm đến các rủi ro như hành vi độc hại ẩn, truy cập dữ liệu trái phép và thực thi tự động trong môi trường Web3 và Web2.
CertiK đang đẩy mạnh hơn nữa lĩnh vực bảo mật AI với việc ra mắt CertiK Skill Scanner, một sản phẩm được thiết kế để xem xét các Kỹ năng AI của bên thứ ba trước khi chúng được cài đặt, xuất bản hoặc phê duyệt để sử dụng trong các hệ thống doanh nghiệp.
Công ty mô tả công cụ này như một lớp bảo vệ chống virus cho kỷ nguyên trí tuệ nhân tạo (AI). So sánh này không hoàn toàn chính xác, nhưng nó thể hiện đúng ý tưởng. Trí tuệ nhân tạo không chỉ đơn thuần trả lời câu hỏi trong cửa sổ trò chuyện. Chúng bắt đầu gọi các công cụ bên ngoài, đọc tập tin, kích hoạt quy trình làm việc, di chuyển dữ liệu giữa các hệ thống và, trong những trường hợp nhạy cảm hơn, tương tác với cơ sở hạ tầng tài chính.
Điều đó làm thay đổi phương trình bảo mật. Một tiện ích mở rộng trình duyệt kém chất lượng đã có thể gây nguy hiểm. Một kỹ năng AI kém chất lượng được kết nối với một tác nhân tự động có thể còn tệ hơn, bởi vì tác nhân đó có thể thực hiện các hành động với tốc độ nhanh và trong bối cảnh mà người dùng không hoàn toàn nắm rõ.
Kỹ năng trí tuệ nhân tạo tạo ra rủi ro thực thi mới.
Kỹ năng AI đang trở thành các tiện ích bổ sung cho nền kinh tế tác nhân. Chúng mở rộng khả năng của một tác nhân AI, từ việc thu thập dữ liệu và tự động hóa các tác vụ đến thực hiện các giao dịch tài chính và tương tác với các giao thức Web3. Tuy nhiên, mỗi kỹ năng bổ sung cũng tạo ra thêm một điểm tiềm ẩn rủi ro.
Rủi ro đó không chỉ giới hạn ở phần mềm độc hại dễ nhận biết. Một Skill có thể yêu cầu nhiều dữ liệu hơn mức cần thiết, hoạt động khác nhau trong quá trình thực thi so với quá trình xem xét, kích hoạt các cuộc gọi API trái phép hoặc âm thầm tạo ra các điều kiện để lạm dụng sau này. Trong môi trường tài chính, mối lo ngại càng trở nên nghiêm trọng hơn. Một công cụ có thể khởi tạo các yêu cầu rút vốn, ký các yêu cầu quy trình làm việc hoặc chuẩn bị các giao dịch cần được giám sát ở mức độ khác so với một tiện ích bổ sung năng suất đơn giản.
CertiK cho biết Skill Scanner được xây dựng để phát hiện các hành vi độc hại ẩn giấu, truy cập dữ liệu trái phép và rủi ro thực thi trước khi các hệ thống nhạy cảm bị lộ. Không giống như các công cụ quét AI tổng quát hơn, công ty cho biết sản phẩm của họ tập trung vào các rủi ro có thể phát sinh trong quá trình thực thi thực tế, bao gồm các trường hợp liên quan đến chuyển tiền và giao dịch tài chính.
Ronghui Gu, CEO kiêm đồng sáng lập của CertiK, cho biết mô hình bảo mật xung quanh các Kỹ năng của bên thứ ba ngày càng trở nên quan trọng hơn khi các tác nhân AI được ứng dụng vào hệ thống tài chính, quy trình làm việc của doanh nghiệp và các dịch vụ kỹ thuật số hàng ngày.
Ông Gu cho biết: “CertiK Skill Scanner được xây dựng để thiết lập một lớp tin cậy tiêu chuẩn trước khi thực thi, giúp người dùng và nền tảng xác định các rủi ro tiềm ẩn trước khi dữ liệu, tài sản hoặc hệ thống nhạy cảm bị lộ.”
Các sàn thương mại điện tử, doanh nghiệp và nhà phát triển là những người đầu tiên được ưu tiên.
Các nhóm đối tượng mục tiêu đầu tiên là các nền tảng thương mại điện tử về kỹ năng AI, các doanh nghiệp và nhà phát triển. Các nền tảng này có thể tích hợp công cụ quét vào quy trình xuất bản của họ, để các kỹ năng được xem xét trước khi được đưa vào sử dụng. Họ cũng có thể hiển thị kết quả đánh giá của CertiK như một chỉ báo về độ tin cậy cho người dùng khi quyết định cài đặt kỹ năng của bên thứ ba.
Đối với các doanh nghiệp, Use Case mang tính phòng thủ hơn. Các công ty thử nghiệm các tác nhân AI nội bộ cần một cách để đánh giá các Kỹ năng của bên thứ ba trước khi chúng được đưa vào môi trường sản xuất hoặc tiếp xúc với dữ liệu khách hàng, hệ thống nội bộ hoặc quy trình làm việc nhạy cảm về tuân thủ. Đó là lúc quy trình đánh giá có điểm số trở nên hữu ích. Nó cung cấp cho các nhóm bảo mật bằng chứng cụ thể hơn so với tuyên bố của nhà cung cấp hoặc mô tả của nhà phát triển.
Các nhà phát triển độc lập cũng có thể sử dụng trình quét để tự kiểm tra Kỹ năng trước khi xuất bản. CertiK cho biết các bản cập nhật trong tương lai sẽ mở rộng quyền truy cập trực tiếp cho người dùng thông thường, cho phép cá nhân tự quét Kỹ năng trước khi cài đặt hoặc sử dụng.
Máy quét sẽ đưa ra điểm số từ 0 đến 100, cùng với các kết quả "đạt", "cảnh báo" hoặc "không đạt" và một danh sách các phát hiện được nhóm theo mức độ nghiêm trọng. CertiK cho biết hệ thống đạt độ chính xác lên đến 90,5% trong việc xác định rủi ro bảo mật, với mục tiêu giảm thiểu kết quả dương tính giả đồng thời làm cho việc đánh giá kỹ năng AI trở nên đáng tin cậy hơn.
Sản phẩm này đã được triển khai trong một số môi trường cơ sở hạ tầng tác nhân AI Web3 được chọn lọc. CertiK cũng đang nghiên cứu tích hợp với các nền tảng kỹ năng AI khác, bao gồm cả FinChip.ai.
Việc ra mắt sản phẩm này diễn ra sau khi CertiK mở rộng mạnh mẽ hơn vào lĩnh vực cơ sở hạ tầng bảo mật tập trung vào trí tuệ nhân tạo (AI), sau khi công ty giới thiệu sáng kiến AI Auditor vào đầu năm nay. Đối với một công ty nổi tiếng nhất với các cuộc kiểm toán Web3, động thái này là một bước mở rộng hợp lý. Khi các tác nhân AI bắt đầu xử lý mã, tài sản, quyền hạn và quy trình làm việc kinh doanh, việc kiểm tra bảo mật cần phải được thực hiện trước khi thực thi, chứ không phải sau khi hệ thống đã bị lộ thông tin.
