如果您正在使用 AI 進行構建，或者試圖防禦該技術不太好的一面，Meta 剛剛推出了新的Llama安全工具。
針對 Llama AI 模型的改進安全工具與 Meta 提供的全新資源一同推出，旨在幫助網絡安全團隊利用 AI 進行防禦。這一切都是為了確保所有參與者都能更安全地開發和使用 AI。
使用 Llama 系列模型的開發人員現在可以使用一些升級版工具包。您可以直接從 Meta 自己的 Llama Protection 頁面獲取這些最新的 Llama Protection 工具，或者在眾多開發人員聚集的地方找到它們：Hugging Face 和 GitHub。
首先是 Llama Guard 4。它可以被視為 Meta 可定製 AI 安全過濾器的升級版。最大的亮點是，它現在支持多模式，因此不僅可以理解並應用安全規則於文本，還可以理解並應用於圖像。隨著 AI 應用越來越注重視覺化，這一點至關重要。這個新版本也被嵌入到 Meta 全新的 Llama API 中，目前處於有限預覽階段。
然後是 LlamaFirewall。這是 Meta 的全新產品，旨在充當 AI 系統的安全控制中心。它有助於管理不同的安全模型協同工作，並與 Meta 的其他保護工具連接。它的作用是什麼？識別並阻止那些讓 AI 開發者夜不能寐的風險——例如旨在欺騙 AI 的巧妙“即時注入”攻擊、潛在的惡意代碼生成，以及 AI 插件的危險行為。
Meta 還對其 Llama Prompt Guard 進行了優化。主力型號 Prompt Guard 2 (86M) 現在能夠更好地嗅探那些棘手的越獄嘗試和快速注入。或許更有趣的是，Prompt Guard 2 22M 的推出。
Prompt Guard 2 22M 是一款體型更小、性能更強大的版本。Meta 估計，與更大的型號相比，它可以將延遲和計算成本降低高達 75%，同時又不會犧牲太多的檢測能力。對於需要更快響應速度或預算緊張的用戶來說，這是一個值得歡迎的補充。
但 Meta 的關注點不僅僅在於 AI 開發者，他們也關注著身處數字安全前線的網絡防禦者。他們聽到了人們對更強大的 AI 工具的呼聲，希望藉此對抗網絡攻擊，並分享了一些旨在實現這一目標的更新。
CyberSec Eval 4 基準測試套件現已更新。這款開源工具包可幫助企業瞭解人工智能系統在安全任務中的表現。最新版本包含兩個新工具：
- CyberSOC Eval：該框架由網絡安全專家 CrowdStrike 協助構建，專門衡量 AI 在真實安全運營中心 (SOC) 環境中的表現。它旨在更清晰地展現 AI 在威脅檢測和響應方面的有效性。基準測試即將發佈。
- AutoPatchBench：該基準測試 Llama 和其他人工智能在壞人利用代碼中的安全漏洞之前自動查找和修復漏洞的能力。
為了幫助有需要的人獲得這類工具，Meta 啟動了“Llama Defenders”計劃。該計劃旨在為合作伙伴公司和開發者提供一系列 AI 解決方案的特殊訪問權限——其中一些是開源的，一些是早期試用版，還有一些可能是專有的——所有這些解決方案都針對不同的安全挑戰。
作為其中的一部分，Meta 分享了他們內部使用的一款 AI 安全工具：自動敏感文檔分類工具。它會自動為組織內部的文檔貼上安全標籤。目的是什麼？為了防止敏感信息洩露，或者防止其被意外輸入 AI 系統（例如 RAG 設置），從而導致信息洩露。
他們還在努力解決人工智能生成的虛假音頻問題，這種音頻在詐騙中被越來越多地使用。Llama 生成的音頻檢測器和 Llama 音頻水印檢測器正在與合作伙伴共享，幫助他們在潛在的網絡釣魚電話或欺詐企圖中識別人工智能生成的聲音。ZenDesk、加拿大貝爾和 AT&T 等公司已經準備整合這些技術。
最後，Meta 透露了一項對用戶隱私可能產生巨大影響的技術：隱私處理。這是他們正在為 WhatsApp 開發的新技術。其理念是讓人工智能做一些有用的事情，比如總結你的未讀消息或幫助你起草回覆，但 Meta 或 WhatsApp 無法讀取這些消息的內容。
Meta 在安全方面相當開放，甚至公開了他們的威脅模型，並邀請安全研究人員在架構上線前對其進行漏洞檢測。這表明他們深知必須妥善處理隱私問題。
總的來說，這是 Meta 發佈的一系列廣泛的人工智能安全公告。他們顯然正努力加大力度，確保自身構建的人工智能安全，同時也為更廣泛的科技社區提供更好的工具，幫助他們安全構建並有效防禦。
另請參閱： 人工智能詐騙數量驚人增長：微軟披露挫敗的 40 億美元欺詐案
想從行業領袖那裡瞭解更多人工智能和大數據知識？歡迎關注在阿姆斯特丹、加利福尼亞和倫敦舉辦的人工智能與大數據博覽會。這場綜合性盛會將與其他領先活動同期舉辦，包括智能自動化大會、 BlockX 、數字化轉型周以及網絡安全與雲計算博覽會。
在此探索由 TechForge 主辦的其他即將舉行的企業技術活動和網絡研討會。
Meta 利用新的 Llama 工具增強 AI 安全性一文最先出現在AI News上。
