도널드 트럼프 대통령이 연방 기관에 앤트로픽의 AI 도구 사용을 중단하라고 명령한 지 몇 시간 후, 미군은 이란에 대한 대규모 공습을 감행했는데, 이 공습에는 앤트로픽의 클로드 플랫폼이 사용된 것으로 알려졌습니다.
미국 중부사령부는 이란 공습 당시 클로드 미사일을 정보 평가, 표적 식별, 전투 시나리오 시뮬레이션에 사용했다고 소식통들이 토요일 월스트리트저널 에 확인시켜줬다 .
이는 트럼프 대통령이 금요일에 국방부와 앤트로픽사 간의 상업적으로 개발된 AI 시스템 사용 방식에 대한 협상이 결렬된 후, 각 기관에 앤트로픽사 제품의 6개월간 단계적 퇴출을 시작하라는 지시를 내린 데도 불구하고 나온 것입니다.
디크립트(Decrypt) 국방부와 Anthropic에 논평을 요청했습니다.
LLM 비용 추적 플랫폼 TknOps.io의 공동 창립자 겸 CEO인 미드훈 크리슈나 M은 디크립트(Decrypt) 의 인터뷰에서 “AI 도구가 이미 실시간 정보 및 시뮬레이션 시스템에 내장되어 있더라도 최고 경영진의 결정이 현장의 변화로 즉시 이어지지는 않습니다. 기술적, 절차적, 그리고 인적 측면에서 시간차가 발생합니다.”라고 말했습니다.
크리슈나는 "기밀 정보 및 시뮬레이션 시스템 전반에 모델을 통합하는 데에는 매몰 비용, 재교육, 보안 재인증 및 병렬 테스트가 포함되므로 6개월 안에 단계적으로 폐지하는 것이 결정적인 것처럼 보일 수 있지만 실제 재정적, 운영적 부담은 훨씬 더 큽니다."라고 덧붙였습니다.
그는 "국방 기관들은 이제 모델의 이식성과 중복성을 우선시할 것"이라며 "어떤 진지한 군사 작전 담당자도 위기 상황에서 자사의 AI 시스템이 정치적으로 취약하다는 사실을 발견하고 싶어하지 않을 것"이라고 말했다.
앤트로픽의 CEO 다리오 아모데이는 목요일에 클로드가 대규모 국내 감시나 완전 자율 무기에 배치되는 것을 막는 안전장치를 제거하지 않을 것이라고 밝혔습니다.
국방부가 계약업체들에게 자신들의 시스템을 "모든 합법적인 용도"에 허용하라고 요구한 후, 아모데이는 "양심상 그들의 요구를 수용할 수 없다"고 썼습니다.
트럼프는 나중에 트루스 소셜(Truth Social) 에 "앤트로픽의 좌파 광신도들이 국방부를 강압하려다 엄청난 실수를 저질렀다"며 , 관련 기관들에게 앤트로픽 제품 사용을 "즉시 중단"하라고 명령했다.
피트 헤그세스 국방장관은 뒤이어 앤트로픽사를 "국가 안보에 대한 공급망 위험" 으로 지정했는데 , 이는 이전에는 외국 적대국에만 적용되던 명칭으로, 모든 국방부 계약업체와 협력업체가 해당 회사와 상업적 활동을 하는 것을 금지했다.
앤트로픽은 해당 지정이 "전례 없는 일"이라며 법정 소송을 제기하겠다고 밝혔고, "이러한 지정이 미국 기업에 공개적으로 적용된 적은 이전에는 없었다"고 덧붙였다.
회사 측은 또한 자신들이 아는 한, 논란이 된 두 가지 제한 조치가 현재까지 단 한 건의 정부 임무에도 영향을 미치지 않았다고 덧붙였습니다.
크리슈나는 "논쟁의 핵심은 AI가 국방에 사용될 것인지 여부가 아니라, 이미 사용되고 있는 현실"이라며, "핵심은 최첨단 연구소들이 '모든 합법적 용도' 계약에 따라 시스템을 실제 운용 자산으로 도입한 후에도 차별화된 안전장치를 유지할 수 있는지 여부"라고 덧붙였다.
오픈AI는 CEO 샘 알트만이 금요일 밤에 기밀 군사 네트워크를 다루는 미 국방부 계약을 발표하면서 공백을 신속하게 메웠으며 , 이 계약에는 앤트로픽이 요구했던 것과 동일한 안전장치가 포함되어 있다고 주장했습니다.
미 국방부가 앤트로픽을 사실상 블랙리스트에 올린 것이 향후 AI 기업과의 분쟁에 있어 우려스러운 선례가 될 수 있는지 묻는 질문에 오픈AI CEO 샘 알트만은 X 에서 "네, 매우 불안한 선례라고 생각하며, 다른 방식으로 처리했으면 좋았을 것입니다." 라고 답했습니다.
"앤트로픽도 이번 사태를 잘 처리했다고 생각하지는 않지만, 더 큰 영향력을 가진 당사자인 정부에 더 큰 책임을 묻겠습니다. 훨씬 더 나은 해결책이 나오기를 여전히 기대합니다."라고 그는 덧붙였다.
한편, 오픈AI와 구글의 직원 약 500명은 미 국방부가 AI 기업들을 서로 경쟁시키려 한다고 경고하는 공개 서한 에 서명했습니다.
