CertiK推出用于代理安全的AI技能扫描器

本文为机器翻译
展示原文

  • CertiK 推出了 Skill Scanner,这是一款安全产品,旨在评估第三方 AI 技能,然后再将其提供给 AI 代理。
  • 该工具针对的是 Web3 和 Web2 环境中的隐藏恶意行为、未经授权的数据访问和自主执行等风险。

CertiK 正在通过推出 CertiK Skill Scanner 进一步深耕人工智能安全领域。该产品旨在审查第三方人工智能技能,然后再将其安装、发布或批准在企业系统中使用。

该公司将该工具描述为人工智能代理时代的“防病毒层”。这种比喻并不完全恰当,但却切中要害。人工智能代理不再仅仅是在聊天窗口中回答问题。它们开始调用外部工具、读取文件、触发工作流程、在系统之间传输数据,并且在更敏感的情况下,还会与金融基础设施进行交互。

这改变了安全格局。一个糟糕的浏览器扩展程序就已经很危险了。而一个与自主代理连接的糟糕的人工智能技能则可能更糟,因为代理可能会在用户无法完全了解的上下文中快速执行操作。

人工智能技能带来新的执行风险

人工智能技能正逐渐成为智能体经济的插件。它们扩展了人工智能智能体的功能,从数据提取和任务自动化到执行金融操作和与Web3协议交互。然而,每增加一项技能,也意味着增加了一个可能出错的环节。

这种风险不仅限于显而易见的恶意软件。技能可能会请求超出其所需的数据量,在执行过程中的行为与审核过程中的行为不同,触发未经授权的 API 调用,或者悄悄地为日后的滥用创造条件。在金融环境中,这种担忧尤为突出。能够发起资金调用、签署工作流请求或准备交易的工具,需要比简单的生产力插件接受更高程度的审查。

CertiK表示,Skill Scanner旨在检测隐藏的恶意行为、未经授权的数据访问和执行风险,从而在敏感系统暴露之前将其识别出来。与更广泛的AI扫描工具不同,该公司表示,其产品专注于实际执行过程中可能出现的风险,包括涉及资金流动和金融交易的情况。

CertiK 首席执行官兼联合创始人顾荣辉表示,随着人工智能代理进入金融系统、企业工作流程和日常数字服务,围绕第三方技能的安全模型变得越来越重要。

顾先生表示:“CertiK Skill Scanner 的建立旨在执行之前建立标准化的信任层,帮助用户和平台在敏感数据、资产或系统暴露之前识别隐藏的风险。”

市场平台、企业和开发者首当其冲

首批目标用户群体是人工智能技能市场、企业和开发者。市场可以将扫描器集成到其发布流程中,以便在技能上线前进行审核。他们还可以将 CertiK 的审核结果作为信任指标,供用户在决定是否安装第三方技能时参考。

对于企业而言,这种应用场景更偏向防御。企业在内部测试人工智能代理时,需要一种方法来评估第三方技能,然后再将其投入生产环境或接触客户数据、内部系统或合规性敏感的工作流程。这时,评分式审查流程就派上了用场。它为安全团队提供了比供应商声明或开发人员描述更具体的依据。

独立开发者也可以使用该扫描器在发布前对 Skills 进行自我审核。CertiK 表示,未来的更新将扩大普通用户的直接访问权限,允许个人在安装或使用 Skills 之前自行扫描。

该扫描器会生成一个 0 到 100 的分数,以及“通过”、“警告”或“不通过”的判定结果,并列出按严重程度分组的缺陷清单。CertiK 表示,该系统在识别安全风险方面准确率高达 90.5%,旨在减少误报,同时提高 AI 技能评估的可靠性。

该产品已部署在部分Web3 AI代理基础设施环境中。CertiK目前也在致力于与其他AI技能平台(包括FinChip.ai)进行集成。

此次发布是 CertiK 向以人工智能为中心的安全基础设施领域更广泛拓展的举措之一,此前该公司已于今年早些时候推出了 AI Auditor 项目。对于一家以 Web3 审计而闻名的公司而言,此举可谓顺理成章。随着人工智能代理开始处理代码、资产、权限和业务流程,安全检查必须在执行之前进行,而不是在系统已经暴露之后。

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
收藏
评论