據谷歌威脅情報小組稱，網絡犯罪分子利用人工智能模型發現並利用了一款流行的開源網絡管理工具中的零日漏洞。
谷歌週一發佈的一份報告稱，該漏洞允許攻擊者繞過雙因素身份驗證，並警告稱，在谷歌介入之前，攻擊者正準備發起大規模攻擊。這是谷歌首次確認人工智能輔助的零日漏洞已被實際應用。
谷歌寫道：“隨著人工智能模型編碼能力的提升，我們不斷觀察到攻擊者越來越多地利用這些工具作為專家級的增幅器，進行漏洞研究和攻擊開發，包括針對零日漏洞的攻擊。雖然這些工具增強了防禦性研究的能力，但它們也降低了攻擊者逆向工程應用程序和開發複雜的人工智能生成攻擊程序的門檻。”
這份報告發布之際，研究人員和各國政府警告稱，人工智能模型正在加速網絡攻擊，它們幫助黑客發現漏洞、生成惡意軟件並自動開發漏洞利用程序。
報告指出：“儘管前沿的邏輯層模型（LLM）在處理複雜的企業授權邏輯方面仍面臨挑戰，但它們在上下文推理方面的能力日益增強，能夠有效地解讀開發者的意圖，將雙因素身份驗證（2FA）強制執行邏輯與其硬編碼例外情況之間的矛盾之處關聯起來。這種能力使得模型能夠發現那些在傳統掃描器看來功能上正確，但從安全角度來看卻存在戰略性缺陷的潛在邏輯錯誤。”
據谷歌稱，這些身份不明的攻擊者利用人工智能識別出軟件中的一個邏輯缺陷：該缺陷導致軟件信任一個可以繞過雙因素身份驗證保護的條件。與傳統的掃描器搜索代碼錯誤或崩潰不同，人工智能分析了軟件的預期運行方式並檢測到了矛盾之處，從而使攻擊者能夠在不破壞加密本身的情況下繞過安全檢查。
谷歌寫道：“人工智能驅動的編碼加速了攻擊者開發基礎設施套件和多態惡意軟件的速度。這些人工智能賦能的開發週期通過創建混淆網絡和將人工智能生成的誘餌邏輯集成到我們已關聯到疑似與俄羅斯有關的威脅行為者的惡意軟件中，從而促進了防禦規避。”
報告稱，來自中國和朝鮮的威脅行為者正在利用人工智能來發現軟件漏洞，而俄羅斯的犯罪團伙則利用人工智能來隱藏其惡意軟件。
谷歌寫道：“這些攻擊者利用了複雜的人工智能增強型漏洞發現和利用方法，從基於用戶角色的越獄嘗試開始，並整合了專門的高保真安全數據集，以增強其漏洞發現和利用工作流程。”
谷歌的報告旨在警示人工智能驅動的網絡攻擊風險日益增長，但一些研究人員認為這種擔憂被誇大了。劍橋大學牽頭進行的一項獨立研究分析了超過9萬個網絡犯罪論壇帖子，發現大多數犯罪分子利用人工智能進行垃圾郵件和網絡釣魚，而不是編寫複雜的網絡攻擊代碼。
該研究指出：“考慮到亞文化和社會學習在入門階段的重要性，越獄版LLM（暗黑人工智能）作為導師的作用也被誇大了——新用戶不僅重視學習黑客和網絡犯罪技能本身，也同樣重視其中涉及的社交關係和社群認同。因此，我們的初步研究結果表明，即使對Viber犯罪的興起表示擔憂，也可能誇大了迄今為止其造成的破壞程度。”
儘管劍橋大學的研究結果如此，但威脅情報組織的這份報告發布之際，谷歌也正面臨著與其人工智能工具相關的安全問題。今年4月，谷歌修復了其Antigravity人工智能編碼平臺中的一個提示注入漏洞。研究人員表示，該漏洞可能允許攻擊者通過篡改提示信息在開發者的計算機上執行命令。
“雖然我們認為Gemini沒有被使用，但根據這些漏洞利用的結構和內容，我們高度確信攻擊者可能利用了人工智能模型來支持發現和利用此漏洞，”谷歌研究人員寫道。
今年早些時候，Anthropic公司限制了對其Claude Mythos模型的訪問權限，此前測試表明該模型能夠識別數千個此前未知的軟件漏洞。這些發現也加劇了人們日益增長的擔憂，即人工智能模型正在重塑網絡安全，幫助防禦者和攻擊者更快地發現漏洞。
“隨著這些功能被更多防禦者掌握，許多其他團隊現在也和我們當初發現這些漏洞時一樣感到頭暈目眩，”Mozilla在4月份的一篇博客文章中寫道。“對於一個防禦嚴密的目標來說，即使只有這樣一個漏洞，在2025年也足以敲響警鐘，而現在這麼多漏洞同時出現，不禁讓人懷疑我們是否真的能夠應對。”
