美国陆军正在使用一款原型生成式人工智能工具,以删除培训材料中与多样性、公平、包容和无障碍(DEIA)相关的内容,以符合唐纳德·特朗普总统最近签署的一项行政命令。
陆军训练和教义司令部(TRADOC)的官员目前正在使用名为CamoGPT的AI工具"审查政策、计划、出版物和倡议中的DEIA,并报告调查结果",据WIRED查阅的一份内部备忘录。
该备忘录是在特朗普于1月27日签署了一项名为"恢复美国作战力量"的行政命令之后发布的,该命令指示国防部长皮特·赫格斯斯特消除所有被认为宣扬特朗普总司令宣称的"反美、分裂、歧视性、激进、极端和不理性理论"的五角大楼政策,这一语言网甚至延伸到了来自美国军方官方账户的过去社交媒体帖子。
在给WIRED的一封电子邮件中,TRADOC发言人陆军少校克里斯·罗宾逊确认了使用CamoGPT审查DEIA材料的做法。
"[TRADOC]将全面执行和实施总统颁布的所有行政命令。我们确保这些指令以最专业、最高效的方式执行,并与国家安全目标保持一致,"罗宾逊说。"不能讨论内部政策和战术的具体细节。但是,我们将使用我们的所有工具组合,包括CamoGPT,来提高各个层面的生产力。"
CamoGPT于去年夏天开发,旨在提高美国陆军的生产力和作战准备。CamoGPT数据工程师艾登·多伊尔上尉告诉WIRED,该工具目前有大约4000名用户每天都在"与之互动"。该工具用于从制定全面培训计划材料到进行多语言翻译的各种用途,TRADOC在去年10月在华盛顿特区举行的美国陆军协会(AUSA)年会上提供了"概念验证和演示"。
尽管多伊尔拒绝就TRADOC官员可能如何使用CamoGPT扫描DEIA相关政策的具体细节发表评论,但他描述了搜索文件的过程相对简单。
"我会把你想要检查的所有文件都收集到CamoGPT上,然后问一些关于文件内容的问题,"他说。"检索增强生成的工作原理是,你的问题越具体地针对文件内的概念,模型就会提供越详细的信息。"
从实际操作来看,这意味着TRADOC官员可能会将大量文件输入CamoGPT,并要求LLM扫描诸如"尊严"或"尊重"(是的,军方正在使用这些关键词来筛选过去的数字内容)等关键词,以识别需要随后修改的材料,使其符合特朗普的行政命令。
通过使用CamoGPT,消除DEIA相关内容的工作将很可能导致美国陆军文件发生快速变化。"我们正在与Adobe Acrobat中的'Ctrl+F'竞争,"多伊尔说。
CamoGPT并非五角大楼武器库中唯一的AI聊天机器人:美国空军的NIPRGPT自6月推出以来一直被空军人员广泛使用,用于"文件摘要、文件起草和编码辅助",据DefenseScoop报道。
对美军培训材料进行AI辅助评估,正值政府全面努力根除DEIA发起之际,这是特朗普在1月重返白宫开始第二任期后的首要任务。详细列于特朗普1月27日的行政命令中,国防部的清洗工作包括关闭各军种的DEIA办公室和计划,对过去的DEI倡议进行全面审查,甚至从空军基础训练材料中删除有关著名全黑色图斯基吉飞行员的历史内容,后者在公众强烈反对下迅速被撤销。
CamoGPT最初受到2022年11月OpenAI发布ChatGPT的启发而开发,是陆军人工智能集成中心(AI2C)的产品。这个组织成立于2018年,作为陆军未来司令部的一部分,负责推动人工智能研究和开发工作,"利用士兵队伍来构建实验性原型",正如AI2C的运营和情报组合负责人埃里克·施密茨告诉WIRED的那样。
"我们的使命是通过实验让人工智能为陆军所用,我们有一种非常创业型的精神和文化。"施密茨说。"我们以产品为中心,认为人工智能本质上是软件驱动的:你可以在学术界做所有你想做的研究,但如果你没有软件来交付给某人,并了解它是否有用,那么你永远也不会知道你的人工智能在现实世界中是否有用。"
为应对ChatGPT的出现,AI2C于2024年6月快速开发了一个基于开源LLM的CamoGPT原型。施密茨表示,该中心对CamoGPT的方法是"模型无关的":虽然该系统目前依赖于科技巨头Meta的开源Llama 3.3 70B LLM,但底层模型是"可替换的",如果市场上出现更好的版本,就可以替换。最重要的是要构建普通士兵在日常工作中实际使用的软件,这可能会影响其在整个部队中的长期采用。
"当你谈到陆军在软件建设方面做得不好时,这是因为用户采用并不是一个优先事项,但对我们来说这是一个巨大的优先事项,"施密茨说。
CamoGPT是否会在陆军内部更广泛地普及还有待观察,施密茨和多伊尔强调,AI2C的角色是专注于实验性原型,而不是构建即时部署的产品。但随着整个联邦政府以"效率"的名义重新调整,CamoGPT在特朗普的DEIA改革中的应用成功可能最终会证明其对军事规划者的实用性。
"你需要对你已经建立和计划建立的东西进行无情的批评,并高度关注推动用户采用,"施密茨说。"核心问题是:如何构建一些如此有价值的东西,以至于人们说他们离不开它?"
