목차
비녀장미국 군부는 전례 없는 속도로 인공지능(AI)을 무기화하고 있다.
미국 국방부(펜타곤)는 금요일(1일)에 7개 주요 기술 기업과 협약을 체결했다고 발표했습니다 . 이 협약을 통해 미군은 급변하는 현대 전장에서 압도적인 우위를 확보하기 위해 해당 기업들의 인공지능(AI) 인프라와 모델을 기밀 컴퓨터 네트워크에서 활용할 수 있게 됩니다.
7대 주요 업체가 대열에 합류하며 AI 시스템 GenAI.mil이 출시되었습니다.
이처럼 인상적인 군산복합체 목록에는 구글, 마이크로소프트, 아마존 AWS, 엔비디아, 오픈AI, 리플렉션, 그리고 일론 머스크가 이끄는 스페이스X 등이 포함됩니다.
국방부는 이들 기업의 자원이 "복잡한 작전 환경에서 군인들의 의사결정 능력을 향상시키는 데 도움이 될 것"이라고 밝혔습니다. 또한, 군 관계자들이 이미 GenAI.mil 이라는 공식 플랫폼을 통해 이러한 AI 기능을 활용하고 있으며, 이를 통해 이전에는 몇 달씩 걸리던 지루한 작업들을 며칠 만에 완료할 수 있게 되었다고 언급했습니다.
미 국방부 기술 책임자 에밀 마이클은 특히 엔비디아와 스타트업 리플렉션을 언급했습니다. 두 회사 모두 "오픈 소스 AI 모델"을 제공하는데, 마이클은 이를 전략적 우선순위로 보고 있으며, 중국의 급속도로 발전하는 오픈 소스 AI 시스템에 대응할 "미국식 대안"을 구축하는 것을 목표로 한다고 밝혔습니다.
인공지능이 사람을 죽인다는 주장을 둘러싸고 인류가 트럼프 행정부와 충돌하고 있다.
하지만 군부와 실리콘밸리가 주도하는 이번 축하 행사에서 인공지능 업계의 거물인 앤트로픽이 빠져 있다는 점은 매우 두드러진다.
보도에 따르면, 앤트로픽은 협상 과정에서 윤리적 한계를 넘어섰습니다. 이 회사는 계약서에 미군이 "자사 기술을 자율 무기나 미국 시민 감시에 사용하지 않을 것"이라는 명시적인 보장을 요구했습니다.
이러한 요구는 워싱턴의 고위 관리들을 극도로 분노하게 했습니다. 피트 헤그세스 국방장관은 강경한 입장을 취하며, 국방부가 "합법적인 목적"으로 앤트로픽의 기술을 사용할 수 있도록 허용할 것을 요구했습니다. 이후 도널드 트럼프 대통령은 연방 기관의 앤트로픽 챗봇 '클로드' 사용을 전면 금지하려 했고, 헤그세스 장관은 더 나아가 앤트로픽을 "공급망 리스크"로 규정하려 했습니다. 결국 앤트로픽은 트럼프 행정부를 상대로 소송을 제기했습니다.
OpenAI는 이러한 공백을 메울 기회를 잡았지만, 전문가들은 "자동화 편향"에 대해 경고합니다.
앤트로픽이 떠난 후, 오픈AI는 올해 3월 미 국방부와 신속하게 계약을 체결하여 앤트로픽을 챗GPT로 대체했습니다. 오픈AI는 금요일 성명에서 군에 대한 지지를 분명히 밝혔습니다. "몇 달 전 계약 발표 당시에도 밝혔듯이, 미국을 수호하는 사람들은 세계 최고의 도구를 가져야 한다고 굳게 믿습니다." 그러나 소식통에 따르면 오픈AI는 계약에 "AI가 자율적으로 작동할 때 인간의 감독이 필요하다"는 조항을 포함시킨 것으로 드러났습니다.
인공지능(AI)이 지휘 체계에 빠르게 스며들면서 윤리적 및 리스크 문제가 대두되고 있습니다. 조지타운 대학교 안보 및 신기술 센터의 헬렌 토너 소장 대행(전 오픈AI 이사회 멤버)은 AI가 정보 및 감시 영상을 요약하는 데 탁월하지만 군대가 이 기술에 지나치게 의존해서는 안 된다고 경고합니다.
'자동화 편향'이라는 현상이 있는데, 이는 사람들이 기계가 실제보다 더 뛰어난 성능을 발휘한다고 가정하는 경향을 말합니다.
최근 이스라엘이 가자지구-레바논 분쟁에서 목표물 태그 인공지능에 대량 의존하여 수많은 민간인 사상자를 낸 사례를 보면, 전략적 이점 추구와 기본적인 인간 도덕성 수호 사이의 균형을 맞추는 것이 인공지능 시대에 인류 전체가 직면할 가장 혹독한 시험이 될 것임을 알 수 있다.
관련 보고서
월스트리트 저널: 트럼프 대통령은 마크 저커버그, 안젤리나 졸리, 마이클 엘리슨을 PCAST에 임명하여 "미국 국가 AI 팀"을 구성할 계획이다.
트럼프 대통령이 "국가 AI 입법 프레임"를 공개했습니다! 미국의 AI 패권을 강력하게 보호하기 위한 단일 연방 규정 도입을 추진하고 있습니다.
안두릴(Anduril) 창립자 팔머 럭키는 중국의 AI 도입 속도가 미국을 훨씬 앞지르고 있다고 경고했습니다.
