OpenAI 将客制化的 ChatGPT 添加到五角大楼平台,专家警告存在风险。

avatar
Decrypt
02-11
本文为机器翻译
展示原文

OpenAI 周一表示,它正在美国国防部开发的 AI 平台 GenAI.mil 上部署ChatGPT 的定制版本。

此举扩大了军方获取强大的生成式人工智慧模型的途径,但批评人士警告说,用户错误仍然是一个主要的安全风险。

ChatGPT 加入了美国军方可用的 AI 模型列表,其中包括谷歌的Gemini和Grok (由 xAI 开发的 AI 系统,xAI 于本月初并入SpaceX)。

OpenAI在一份声明中表示:“我们认为,负责保卫国家的人应该能够获得最好的工具,美国和其他民主国家必须了解,在适当的保障措施下,人工智慧如何能够帮助保护人民、威慑敌人并防止未来的冲突。”

OpenAI 表示,GenAI.mil 版本的 ChatGPT 已获准用于国防部非机密用途,并将在授权的政府云端基础设施内运作。

OpenAI 表示,该系统包含旨在保护敏感资料的安全措施。

不过,公共公民组织(Public Citizen)的大型科技公司问责倡导者 JB Branch 警告说,用户过度依赖人工智慧可能会破坏这些保护措施。

Branch告诉Decrypt :“研究表明,人们在使用这些大型语言模型时,往往会倾向于相信它们。因此,在军事等高影响力领域,确保它们准确无误就显得尤为重要。”

此次部署正值五角大厦加速在军事网路中采用商业人工智慧以及人工智慧开发商寻求获利之际。

今年1月,国防部长皮特·赫格塞斯表示,国防部计划在非机密和机密军事网路中部署领先的人工智慧模型。

OpenAI 表示,定制版的 ChatGPT 仅用于非机密数据,但 Branch 警告说,将任何敏感资讯放入 AI 系统都会使其容易受到攻击者的攻击,并补充说,用户经常将此类工具误认为是安全保险库。

他说:“机密资讯本就应该只由特定人员查看。所以,即使你建立了一套只允许军方内部访问的保密系统,也无法改变机密数据只供特定人群查阅的事实。”

OpenAI 没有立即回应Decrypt的置评请求。

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
53
收藏
13
评论