據報道，美國立法者已傳喚多家人工智能開發公司，要求其解釋某些模型是如何成為廣泛間諜活動的一部分的。
據Axios週三發佈的一份報告援引私下分享的信件稱，其中包括 Anthropic 首席執行官 Dario Amodei，他被要求於 12 月 17 日出席眾議院國土安全委員會的聽證會，解釋中國政府行為者如何使用克勞德代碼。
本月初，Anthropic 披露，一個與中國政府有關聯的黑客組織利用其工具 Claude Code 發起了該公司所稱的首個主要由人工智能系統自動化的大規模網絡行動。
攻擊者以 GTG-1002 的名義策劃了一場針對約 30 個組織的攻擊活動，據 Anthropic 稱，Claude Code 負責了大部分階段：偵察、漏洞掃描、漏洞利用程序創建、憑證收集和數據竊取。
負責後續調查的是眾議員安德魯·加巴里諾（紐約州共和黨籍），以及兩位小組委員會主席。
委員會希望阿莫迪詳細說明Anthropic何時首次發現該活動，攻擊者如何在攻擊的不同階段利用其模型，以及隨著攻擊活動的進行，哪些安全措施失效或奏效。據Axios報道，谷歌雲和Quantum Xchange的高管也將出席聽證會。
“我們首次看到外國敵對勢力利用商業人工智能系統，在幾乎無需人為干預的情況下，實施了幾乎整個網絡行動，”加爾巴里諾在最初報告中引用的一份聲明中表示。“這應該引起每個聯邦機構和每個關鍵基礎設施部門的關注。”
Decrypt已聯繫眾議員 Garbarino、谷歌雲、Quantum Xchange 和 Anthropic 徵求意見。
國會的審查緊隨英國安全部門軍情五處發出的另一項警告之後。軍情五處上週向英國議員發出警報，稱發現有中國情報人員使用虛假招聘人員資料來鎖定議員、貴族和議會工作人員。
英國安全部長丹·賈維斯在聲明中表示，英國政府在尋求“繼續與中國保持經濟關係”的同時，也準備“在任何國家破壞我們的民主生活方式時對其提出挑戰”。
鏈上金融面臨風險
在此背景下，觀察人士警告說，目前用於間諜活動的AI能力同樣可以輕易地加速金融盜竊。
“人工智能最可怕的地方在於它的速度，”人工智能研究實驗室 Eliza Labs 的創始人肖·沃爾特斯告訴Decrypt 。“過去需要人工完成的工作現在可以大規模自動化。”
沃爾特斯解釋說，這種邏輯可能簡單得危險。如果國家行為體能夠破解和操縱黑客攻擊模型，那麼下一步就是操控智能人工智能“在不被察覺的情況下掏空錢包或竊取資金”。
沃爾特斯解釋說，人工智能代理可以繼續“與目標建立融洽關係和信任，保持對話，並讓他們落入騙局”。
沃爾特斯聲稱，經過充分訓練後，這些代理人也可以“開始攻擊鏈上合約”。
“即使是像 Claude 這樣所謂的‘協調一致’的模型也會很樂意幫助你找到‘你的’代碼中的安全漏洞——當然，它不知道哪些是你的，哪些不是你的，而且為了提供幫助，它肯定會在許多可能造成資金流失的合同中找到漏洞，”他說。
但沃爾特斯表示，雖然應對此類攻擊的措施“很容易建立”，但現實情況是“壞人試圖繞過我們已經有的安全措施”，他們試圖欺騙模型“進行黑帽活動，讓模型相信他們是在幫助別人，而不是在作惡”。
