오픈아이언은 월요일 미국 국방부가 개발한 AI 플랫폼인 젠아이언밀(GenAI.mil)에 맞춤형 챗GPT 버전을 배포한다고 발표했습니다.
이번 조치로 군은 강력한 생성형 AI 모델에 대한 접근성을 확대하게 되지만, 비평가들은 사용자 오류가 여전히 주요 안보 위험 요소로 남아 있다고 경고합니다.
ChatGPT는 구글의 제미니(Gemini) 와 이달 초 스페이스 X 에 통합 된 xAI가 개발한 AI 시스템인 그록을 포함하여 미군에 제공되는 AI 모델 목록에 합류했습니다.
오픈아이(OpenAI)는 성명에서 "국가 방어를 책임지는 사람들이 최고의 도구를 이용할 수 있어야 한다고 생각하며, 미국을 비롯한 민주주의 국가들이 적절한 안전장치를 마련한다면 인공지능이 어떻게 사람들을 보호하고, 적을 억제하며, 미래의 분쟁을 예방하는 데 도움이 될 수 있는지 이해하는 것이 중요하다"고 밝혔습니다.
OpenAI는 GenAI.mil 버전의 ChatGPT가 국방부의 비공개 사용 승인을 받았으며, 승인된 정부 클라우드 인프라 내에서 실행될 것이라고 밝혔습니다.
OpenAI에 따르면 해당 시스템에는 민감한 데이터를 보호하기 위해 설계된 안전장치가 포함되어 있습니다.
하지만 시민단체 퍼블릭 시티즌의 빅테크 책임 옹호자인 JB 브랜치는 사용자들이 인공지능에 지나치게 의존하면 이러한 보호 장치가 약화될 수 있다고 경고했습니다.
브랜치는 디크립트(Decrypt) 의 인터뷰에서 "연구에 따르면 사람들은 이러한 대규모 언어 모델을 사용할 때 모델의 정확성을 어느 정도 신뢰하는 경향이 있다"며, "따라서 군사 분야와 같이 영향력이 큰 상황에서는 모델의 정확성을 확보하는 것이 더욱 중요하다"고 말했다.
이번 배치는 미 국방부가 군사 네트워크 전반에 걸쳐 상용 AI 도입을 가속화하고 AI 개발자들이 수익성을 추구하는 가운데 이루어졌습니다.
지난 1월, 피트 헤그세스 국방장관은 국방부가 기밀 및 비기밀 군사 네트워크 전반에 걸쳐 최첨단 AI 모델을 배치할 계획이라고 밝혔습니다 .
OpenAI는 ChatGPT의 맞춤형 버전이 기밀이 아닌 데이터에만 사용하도록 설계되었다고 밝혔지만, 브랜치는 민감한 정보를 AI 시스템에 입력하는 것은 적의 공격에 취약하게 만든다고 경고하며, 사용자들이 그러한 도구를 안전한 저장소로 오인하는 경우가 많다고 덧붙였습니다.
그는 "기밀 정보는 특정 인원만 볼 수 있도록 되어 있다"며 "군 내부에서만 접근이 허용되는 차단 시스템이 있다고 해도, 기밀 정보는 제한된 소수의 사람들만 볼 수 있어야 한다는 사실은 변하지 않는다"고 말했다.
OpenAI는 디크립트(Decrypt) 의 논평 요청에 즉시 응답하지 않았습니다.
