人類模型安全爭議升級:亞馬遜被指是"幕後推手"並推動監管介入

深潮 TechFlow 消息,6 月 14 日,據《華爾街日報》報道,美國政府對 Anthropic 模型 Fable 5 / Mythos 5 的出口管制與訪問限制,部分源於亞馬遜公司的網絡安全研究以及 AWS 首席執行官安迪·賈西與白宮的溝通推動。

據悉,亞馬遜公司提交的研究指出,通過一系列提示詞測試,研究人員能夠誘導 Fable 5 輸出可能被用於網絡攻擊的敏感信息,從而引發安全擔憂,隨後安迪·賈西將相關發現上報美國政府層面,促使白宮採取進一步限制措施,包括禁止外國用戶訪問該模型。

Anthropic 方面則否認政府將該問題定義為"越獄(jailbreak)"的說法,稱類似漏洞在包括 GPT 5.5 在內的其他公開模型中同樣可能出現.部分安全研究人員也支持這一觀點,認為相關問題更接近"提示注入風險",而非嚴重模型突破。

另據前美國商務部官員凱特·科倫透露,白宮對 Anthropic 的既有政策立場也可能影響了此次決策判斷,因為 Anthropic 在人工智能安全邊界問題上與白宮存在分歧,包括拒絕將模型用於大規模監控或致命自主武器系統。儘管雙方在今年早些時候一度緩和並擴大合作,但此次事件可能再次加劇雙方緊張關係。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
52
收藏
12
評論