美國政府命令Anthropico公司撤回Claude Fable和Mythos人工智能模型

本文為機器翻譯
展示原文

美國政府週五發佈了一項緊急出口管制指令,命令 Anthropic 公司立即暫停向所有外國公民(包括該公司自己的員工)提供其兩個最強大的人工智能模型——Claude Fable 5 和 Claude Mythos 5(這兩個模型均在幾天前發佈),理由是出於國家安全考慮。

該指令禁止任何外國公民訪問這些模型,無論其身處美國境內還是境外。由於該指令範圍廣泛,Anthropic公司被迫對其所有客戶禁用這些模型,以確保合規。

信中並未詳細說明其國家安全方面的擔憂,但政府認為已發現一種繞過或“破解”公開可用的Fable 5模型的方法。Mythos 5模型防護措施較少,在發現網絡安全漏洞方面功能尤為強大,但僅供特定合作伙伴使用。

Anthropic公司對這一發現的嚴重性提出異議。該公司表示,他們審查了該技術的演示,並得出結論:所發現的漏洞相對簡單,其他公開可用的模型也能夠發現這些漏洞,而無需任何繞過措施。

該公司表示,政府迄今為止僅提供了口頭證據,表明可能存在一種範圍較窄、非通用的越獄方法——本質上就是要求模型讀取特定的代碼庫並修復其中的軟件缺陷。Anthropic公司補充說,他們已驗證,目前展示的能力水平在包括OpenAI的GPT-5.5在內的其他競爭模型中已廣泛存在。

Anthropic公司在遵守該指令的同時表示,他們認為此舉開創了一個危險的先例。該公司寫道:“如果這一標準在整個行業得到應用,我們認為這將實際上阻止所有前沿車型供應商部署新車型。”

其他所有 Anthropologie 型號的訪問權限將不受影響。該公司表示正在努力盡快恢復訪問權限。

週六,總統科技顧問委員會聯合主席大衛·薩克斯在X網站上撰文稱,“一位與Anthropic公司和美國政府都關係密切、信譽卓著的合作伙伴,在測試Fable模型時,發現了一種繞過安全防護措施的方法。政府要求(Anthropic公司首席執行官達里奧·阿莫迪)修復漏洞或撤回該模型。達里奧拒絕了。”

薩克斯進一步聲稱,Anthropic 對政府要求的反應與該公司自己公開宣稱的人工智能安全和監管的必要性相悖——阿莫迪本週在一篇博客文章中再次表達了這種觀點。

薩克斯寫道:“Anthropic公司將消費者模式的持續運營置於安全之上。作為回應,政府發佈了出口管制令。政府這樣做並非出於自願。Anthropic公司拒絕配合合理的安全要求(例如修復越獄問題)令人非常驚訝。Anthropic公司的反應與其作為安全人工智能研究社區的品牌形象和理念嚴重不符。”

薩克斯補充說,管理層希望 Anthropic 能夠解決這個問題,讓《神鬼寓言5》能夠重新公開發行。

“管理層重視Anthropic的技術能力,並認為這個問題雖然嚴重,但應該很容易解決,”他寫道。“現在主動權在Anthropic手中。”

今年早些時候,人工智能公司 Anthropic 與美國政府發生衝突,原因是該公司拒絕簽署一項擴大協議,該協議允許對美國公民進行大規模國內監控,並允許美國政府開發完全自主的致命武器系統。

談判破裂後,唐納德·特朗普總統猛烈抨擊了該公司,國防部也將Anthropic公司列為“供應鏈風險”——該公司已就此提起訴訟。此後,有報道稱,隨著政府尋求使用Claude Mythos和其他型號的機器人,雙方的僵局有所緩和

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
60
收藏
10
評論