餘弦:使用AI工具時需警惕提示詞投毒攻擊

【餘弦:使用AI工具時需警惕提示詞投毒攻擊】火星財經消息,12 月 29 日,慢霧創始人餘弦發佈安全提醒,用戶在使用 AI 工具時,一定要警惕 agents md/skills md/mcp 等裡的提示詞投毒攻擊,目前已出現相關案例。AI 工具的危險模式一旦開啟,相關工具可以全自動操控用戶電腦而無需任何確認。但未開啟危險模式則每次操作都需要用戶確認,也將影響使用效率。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論