美國陸軍正在使用一款原型生成式人工智慧工具,以刪除培訓材料中與多樣性、公平、包容和無障礙(DEIA)相關的內容,以符合唐納德·特朗普總統最近簽署的一項行政命令。
陸軍訓練和教義司令部(TRADOC)的官員目前正在使用名為CamoGPT的AI工具"審查政策、計劃、出版物和倡議中的DEIA,並報告調查結果",據WIRED查閱的一份內部備忘錄。
該備忘錄是在特朗普於1月27日簽署了一項名為"恢復美國作戰力量"的行政命令之後釋出的,該命令指示國防部長皮特·赫格斯斯特消除所有被認為宣揚特朗普總司令宣稱的"反美、分裂、歧視性、激進、極端和不理性理論"的五角大樓政策,這一語言網甚至延伸到了來自美國軍方官方賬戶的過去社交媒體帖子。
在給WIRED的一封電子郵件中,TRADOC發言人陸軍少校克里斯·羅賓遜確認了使用CamoGPT審查DEIA材料的做法。
"[TRADOC]將全面執行和實施總統頒佈的所有行政命令。我們確保這些指令以最專業、最高效的方式執行,並與國家安全目標保持一致,"羅賓遜說。"不能討論內部政策和戰術的具體細節。但是,我們將使用我們的所有工具組合,包括CamoGPT,來提高各個層面的生產力。"
CamoGPT於去年夏天開發,旨在提高美國陸軍的生產力和作戰準備。CamoGPT資料工程師艾登·多伊爾上尉告訴WIRED,該工具目前有大約4000名使用者每天都在"與之互動"。該工具用於從制定全面培訓計劃材料到進行多語言翻譯的各種用途,TRADOC在去年10月在華盛頓特區舉行的美國陸軍協會(AUSA)年會上提供了"概念驗證和演示"。
儘管多伊爾拒絕就TRADOC官員可能如何使用CamoGPT掃描DEIA相關政策的具體細節發表評論,但他描述了搜尋檔案的過程相對簡單。
"我會把你想要檢查的所有檔案都收集到CamoGPT上,然後問一些關於檔案內容的問題,"他說。"檢索增強生成的工作原理是,你的問題越具體地針對檔案內的概念,模型就會提供越詳細的資訊。"
從實際操作來看,這意味著TRADOC官員可能會將大量檔案輸入CamoGPT,並要求LLM掃描諸如"尊嚴"或"尊重"(是的,軍方正在使用這些關鍵詞來篩選過去的數字內容)等關鍵詞,以識別需要隨後修改的材料,使其符合特朗普的行政命令。
透過使用CamoGPT,消除DEIA相關內容的工作將很可能導致美國陸軍檔案發生快速變化。"我們正在與Adobe Acrobat中的'Ctrl+F'競爭,"多伊爾說。
CamoGPT並非五角大樓武器庫中唯一的AI聊天機器人:美國空軍的NIPRGPT自6月推出以來一直被空軍人員廣泛使用,用於"檔案摘要、檔案起草和編碼輔助",據DefenseScoop報道。
對美軍培訓材料進行AI輔助評估,正值政府全面努力根除DEIA發起之際,這是特朗普在1月重返白宮開始第二任期後的首要任務。詳細列於特朗普1月27日的行政命令中,國防部的清洗工作包括關閉各軍種的DEIA辦公室和計劃,對過去的DEI倡議進行全面審查,甚至從空軍基礎訓練材料中刪除有關著名全黑色圖斯基吉飛行員的歷史內容,後者在公眾強烈反對下迅速被撤銷。
CamoGPT最初受到2022年11月OpenAI釋出ChatGPT的啟發而開發,是陸軍人工智慧整合中心(AI2C)的產品。這個組織成立於2018年,作為陸軍未來司令部的一部分,負責推動人工智慧研究和開發工作,"利用士兵隊伍來構建實驗性原型",正如AI2C的運營和情報組合負責人埃裡克·施密茨告訴WIRED的那樣。
"我們的使命是透過實驗讓人工智慧為陸軍所用,我們有一種非常創業型的精神和文化。"施密茨說。"我們以產品為中心,認為人工智慧本質上是軟體驅動的:你可以在學術界做所有你想做的研究,但如果你沒有軟體來交付給某人,並瞭解它是否有用,那麼你永遠也不會知道你的人工智慧在現實世界中是否有用。"
為應對ChatGPT的出現,AI2C於2024年6月快速開發了一個基於開源LLM的CamoGPT原型。施密茨表示,該中心對CamoGPT的方法是"模型無關的":雖然該系統目前依賴於科技巨頭Meta的開源Llama 3.3 70B LLM,但底層模型是"可替換的",如果市場上出現更好的版本,就可以替換。最重要的是要構建普通士兵在日常工作中實際使用的軟體,這可能會影響其在整個部隊中的長期採用。
"當你談到陸軍在軟體建設方面做得不好時,這是因為使用者採用並不是一個優先事項,但對我們來說這是一個巨大的優先事項,"施密茨說。
CamoGPT是否會在陸軍內部更廣泛地普及還有待觀察,施密茨和多伊爾強調,AI2C的角色是專注於實驗性原型,而不是構建即時部署的產品。但隨著整個聯邦政府以"效率"的名義重新調整,CamoGPT在特朗普的DEIA改革中的應用成功可能最終會證明其對軍事規劃者的實用性。
"你需要對你已經建立和計劃建立的東西進行無情的批評,並高度關注推動使用者採用,"施密茨說。"核心問題是:如何構建一些如此有價值的東西,以至於人們說他們離不開它?"
