在川普試圖切斷與人類學中心的聯繫後,該中心的人工智慧被用於對伊朗的攻擊:《華爾街日報》

avatar
Decrypt
03-02
本文為機器翻譯
展示原文

在唐納德·特朗普總統下令聯邦機構停止使用 Anthropic 的人工智能工具幾個小時後,據報道,美國軍方對伊朗進行了一次大規模空襲,而這次空襲依賴於該公司的 Claude 平臺。

週六知情人士向《 華爾街日報》證實,美國中央司令部在對伊朗發動襲擊期間,利用克勞德無人機進行情報評估、目標識別和模擬戰鬥場景

儘管特朗普週五指示各機構在 Anthropic 公司與五角大樓就後者如何使用商業開發的 AI 系統進行的談判破裂後,開始在六個月內逐步淘汰 Anthropic 產品,但這種情況仍然發生了。

Decrypt已聯繫美國國防部和 Anthropic 公司徵求意見。

“當人工智能工具已經嵌入到實時智能和模擬系統中時,高層的決策並不能立即轉化為實際操作中的改變,”LLM成本追蹤工具TknOps.io的聯合創始人兼首席執行官Midhun Krishna M告訴Decrypt 。“這其中存在滯後——技術上的、流程上的和人為上的。”

“當一個模型被嵌入到機密情報和模擬系統中時,你就會面臨沉沒集成成本、重新培訓、安全重新認證和並行測試,因此六個月的逐步淘汰聽起來可能很果斷,但真正的財務和運營負擔要深得多,”克里希納補充道。

他說:“國防機構現在將優先考慮模型的可移植性和冗餘性。任何嚴肅的軍事行動者都不希望在危機期間發現自己的AI層在政治上很脆弱。”

Anthropic 首席執行官 Dario Amodei週四表示,該公司不會取消防止 Claude 被部署用於大規模國內監控或完全自主武器的安全措施。

阿莫迪寫道:“我們不能昧著良心答應他們的要求。”此前,國防部要求承包商允許其系統用於“任何合法用途”。

“Anthropic 的左翼瘋子們犯了一個災難性的錯誤,他們試圖強迫戰爭部使用 Anthropic 產品,”特朗普後來在Truth Social上寫道,並命令各機構“立即停止”使用 Anthropic 的所有產品。

國防部長皮特·赫格塞斯隨後將 Anthropic 公司列為“對國家安全的供應鏈風險”,這一標籤此前僅用於外國敵對勢力,禁止五角大樓所有承包商和合作夥伴與該公司進行商業活動。

安特羅皮克稱這一認定“史無前例”,並誓言要在法庭上挑戰這一認定,稱其“此前從未公開向美國公司提出過此類申請”。

該公司補充說,據其所知,這兩項有爭議的限制措施迄今為止尚未對任何政府任務造成影響。

克里希納補充說:“爭論的焦點不在於人工智能是否會被用於國防,這已經在發生了。而在於,一旦前沿實驗室的系統根據‘任何合法用途’合同成為運營資產,它們能否維持差異化的監管機制。”

OpenAI 迅速採取行動填補這一空白,其首席執行官 Sam Altman於週五晚宣佈與五角大樓達成一項涵蓋機密軍事網絡的協議,並聲稱該協議包含了 Anthropic 所尋求的相同保障措施。

當被問及五角大樓將 Anthropic 列入黑名單是否會為未來與人工智能公司的糾紛樹立一個令人擔憂的先例時,OpenAI 首席執行官 Sam Altman 在X上回應道:“是的;我認為這是一個極其可怕的先例,我希望他們能以不同的方式處理這件事。

“我認為人本公司處理得也不好,但作為實力更強的政黨,我認為政府應該承擔更多責任。我仍然希望能夠得到更好的解決方案。”他補充道。

與此同時,來自 OpenAI 和 Google 的近 500 名員工簽署了一封公開信,警告稱五角大樓正試圖挑撥人工智能公司之間的關係。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
55
收藏
15
評論