使用人工智慧工具时,请警惕“提示到狗的攻击”

本文为机器翻译
展示原文

Slow Mist创始人警告自动化滥用问题。

使用人工智能工具时,请警惕“提示到狗的攻击”
区块链安全公司 SlowMist 的创始人余贤就针对人工智能工具用户的新型安全威胁发出紧急警告。

魏贤今天通过X频道表示,用户在使用人工智能工具时,应特别注意agents.md、skills.md和MCP(模型上下文协议)等文件中存在的“即时投毒攻击”。他敦促用户提高警惕,并表示“相关攻击案例已经发生”。

尤其令人担忧的是该人工智能工具的“危险模式”功能。激活后,该模式允许人工智能在未经用户确认的情况下自动控制计算机,如果注入恶意指令,则可能导致严重的安全漏洞。

另一方面,禁用风险模式需要用户对每次操作进行确认,这提高了安全性,但也造成了工作效率大大降低的两难境地。

人工智能技术的飞速发展虽然提高了自动化功能的便捷性,但也凸显了安全漏洞日益增多的问题。专家建议,在使用人工智能工具时,应避免使用来源不明的配置文件或插件,并在执行关键任务时始终进行人工验证。

食物、酒精、酒精……AI技术员、特工md/skills md/mcp等里的提示词投毒攻击,已经有在野案例了👀 https://t.co/wLDvbk3gGy pic.twitter.com/LWiPVOZhse

— Cos(余弦)😶‍🌫️ (@evilcos)2025 年 12 月 29 日


崔周勋 joohoon@blockstreet.co.kr

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
58
收藏
18
评论