美國政府正準備向主要聯邦機構提供 Anthropic 公司的 Mythos 人工智慧模型的一個版本,因為官員們正在權衡使用該系統的風險,該系統引發了新的網路安全擔憂。
白宮管理和預算辦公室聯邦首席資訊長格雷戈里·巴爾巴西亞發出的一份備忘錄告訴高級機構技術和網路安全官員,預計在未來幾週內將有更多關於可能訪問該模型的資訊。
彭博社報道稱,這封郵件並未確認各機構是否一定能獲得Mythos系統的存取權限,也沒有設定具體的時間表或詳細說明該模型的具體使用方式。相反,郵件表明,在向聯邦政府各機構推廣Barbaccia所描述的修改版Mythos模型之前,OMB正在製定相應的保障措施。
抄送該郵件的官員包括國防部、財政部、商務部、國土安全部、司法部和國務院等主要部門的代表,這凸顯了華盛頓已經在多大程度上為前沿人工智慧系統可能成為聯邦網路防禦工作流程的一部分做好準備。
彭博社4月14日另行報道稱,美國財政部一直在尋求訪問Mythos,以協助識別軟體漏洞。
此次發佈時機頗為引人注目,因為Mythos並非以標準的商業模式推出。 Anthropic公司於4月7日透過Project Glasswing專案推出了Claude Mythos Preview,稱其為迄今為止功能最強大的前沿模型,可用於編碼和智能體任務。同時強調,該模式在網路安全方面擁有非凡的優勢,而這正是其受到嚴格管控的原因。
Anthropic 表示,Mythos Preview 已經識別出關鍵基礎設施中數千個零日漏洞,目前僅作為封閉式研究預覽版提供。
Anthropic 表示,根據“玻璃之翼計劃”,它正與有限的啟動合作夥伴群體合作,利用 Mythos Preview 來幫助保護關鍵軟體,並讓機構為前沿模型既能保護敏感系統又能可能危及敏感系統的世界做好準備。
人類學研究所還表示,他們一直在與美國政府官員就 Mythos 及其進攻性和防禦性網路能力進行討論,並補充說,關鍵基礎設施保護是國家安全的優先事項。
在政府和金融界普遍感到擔憂之後,該軟體才採取了限制性推廣措施。路透社4月10日報稱,在彭博社率先報道了相關擔憂之後,財政部長斯科特·貝森特和美聯儲主席傑羅姆·鮑威爾已就Mythos軟體帶來的風險向各大銀行首席執行官發出警告。
Anthropic 今天稍早發布的 Claude Opus 4.7 為 Mythos 類模型增添了新的背景資訊。在發布 Opus 4.7 時,Anthropic 表示,該模型的功能不如 Mythos Preview 全面,並且是首款配備安全防護機制的模型,旨在自動檢測並阻止違禁或高風險的網路安全請求。該公司表示,從 Opus 4.7 的實際部署中獲得的經驗將有助於指導未來 Mythos 類模型的更廣泛發布。
在這樣的背景下,政府最近關於Mythos的討論顯得特別引人注目。 2月27日,川普指示聯邦機構停止使用Anthropic公司的技術,推動政府部分部門逐步淘汰Claude,轉而使用OpenAI和Google的同類工具。這次關於Mythos的新討論表明,官員們可能正在尋求一種可控的方式,讓Anthropic的技術重新投入聯邦政府使用,至少用於網路安全領域。




