오픈아이디는 이번 주말 미 국방부와 기밀 환경에 첨단 AI 시스템을 배치하는 계약을 체결했다고 발표하며 , 미군과의 협력 관계를 크게 확대했다고 밝혔습니다.
이번 발표는 트럼프 행정부가 감시 및 자율 무기 관련 계약 조항에 대한 분쟁 이후 경쟁 AI 기업인 앤트로픽을 "국가 안보에 대한 공급망 위험"으로 지정하고 블랙리스트에 올린 지 24시간도 채 되지 않아 나왔습니다.
도널드 트럼프 대통령은 또한 연방 기관들에게 앤트로픽의 기술 사용을 즉시 중단하라고 지시했으며, 스콧 베센트 트레져리 장관은 월요일 X에 보낸 서한에서 "우리 부처는 클로드 플랫폼을 포함한 모든 앤트로픽 제품 사용을 중단한다"고 밝혔습니다.
AI 관련 발표 시점 때문에 오픈AI의 계약은 집중적인 검토 대상이 되었습니다. 회사 측은 상세한 블로그 게시글을 통해 국방부와의 파트너십을 규율하는 엄격한 "레드라인"과 다층적인 안전장치를 설명했습니다.
오픈AI가 제시한 이번 합의안은 국가 안보 환경에서 AI 시스템을 어떻게 관리할 것인지, 그리고 회사가 명시한 제한 사항들이 실제로 어떻게 해석되고 시행될 것인지에 대한 더 광범위한 질문을 제기합니다.
OpenAI의 블로그 게시물은 협상 불가능한 세 가지 약속으로 시작합니다. 즉, 대규모 국내 감시, 자율 무기 시스템의 독립적인 지휘, 사회 신용 평가와 같은 중대한 자동화된 의사 결정에 자사 기술을 사용하지 않겠다는 것입니다.
그다음에는 실제 계약 조항이 나오는데, 오픈아이언은 이를 "전체 계약"이 아닌 "관련 조항"이라고 부릅니다.
오픈AI는 "미 국방부는 관련 법률, 작전 요건, 그리고 확립된 안전 및 감독 프로토콜에 따라 모든 합법적인 목적으로 AI 시스템을 사용할 수 있다"고 밝혔습니다.
앤스로픽이 협상 내내 정부 측에서 요구했던 문구가 바로 그 문구였다고 밝혔습니다. 앤스로픽이 수용을 거부했던 문구이기도 하죠. 오픈아이언은 그 문구에 서명했지만, 자신들의 마지노선은 여전히 그대로라고 주장합니다.
그러나 국가 안보 맥락에서 "합법적"이라는 것은 고정된 경계가 아니라, 법령, 행정 명령, 내부 지침, 그리고 종종 기밀로 분류되는 법적 해석 등 여러 요소가 복합적으로 작용하는 개념입니다. 계약서에 "모든 합법적 목적"이라는 문구가 명시되어 있더라도, 실제적인 한계는 공급업체가 자체적으로 설정한 기준이 아니라 정부가 현재 적용하고 있는 법적 범위가 됩니다.
무기 관련 조항에는 AI 시스템이 "법률, 규정 또는 부서 정책에 따라 인간의 통제가 요구되는 어떠한 경우에도 자율 무기를 독립적으로 조종하는 데 사용되지 않을 것"이라고 명시되어 있습니다.
이 금지 조항은 다른 기관에서 이미 인간의 통제를 요구하는 경우에만 적용되며, 그 근거는 전적으로 기존 정책, 특히 국방부 지침 3000.09 에서 가져온 것입니다. 해당 지침은 자율 시스템이 지휘관이 "무력 사용에 있어 적절한 수준의 인간적 판단"을 내릴 수 있도록 허용해야 한다고 규정하고 있습니다.
그리고 "적절하다"는 것은 지극히 주관적인 개념입니다.
인간의 판단은 인간의 통제와는 다릅니다. 이러한 구분은 우연이 아닙니다. 국방 전문가들은 "인간 개입"이라는 표현을 의도적으로 생략한 것은 작전상의 유연성을 유지하기 위한 것이라고 지적 해 왔습니다.
OpenAI의 가장 강력한 반박은 클라우드 전용 배포 아키텍처라는 점입니다. 완전 자율적인 살상 결정 시스템을 구현하려면 전장 장비에 엣지 컴퓨팅을 적용해야 하는데, 이 계약은 이를 허용하지 않습니다. 이는 실질적인 기술적 제약입니다.
하지만 클라우드 기반 AI도 표적 식별, 생활 패턴 분석, 임무 계획 수립 등을 수행할 수 있습니다. 이러한 활동들은 최종 공격 지점이 어디든 관계없이 공격 과정의 핵심 요소입니다. 따라서 표적에 대한 결과는 모델이 실행되는 서버에 따라 달라지지 않습니다.
감시 조항도 비슷한 패턴을 따릅니다. OpenAI가 명시한 마지노선은 대규모 국내 감시를 금지하는 것입니다. 계약서에는 "본 시스템은 관련 법규에 따라 미국 시민의 개인 정보를 무분별하게 감시하는 데 사용되어서는 안 된다"고 명시되어 있으며, 그 아래에 수정헌법 제4조, FISA(외국정보보안법), 행정명령 12333호가 나열되어 있습니다.
"제한 없는"이라는 단어는 제한적인 형태의 대규모 감시는 허용될 수 있음을 암시합니다. 그리고 행정명령 12333호는 NSA가 미국 국경 밖에서 이루어지는 미국인들의 통신을 도청하는 것을 정당화하는 데 사용해 온 문서입니다.
그리고 바로 이 지점에서 협상 전반에 걸쳐 앤트로픽이 문구에 대해 가졌던 우려가 두드러지게 나타납니다. 앤트로픽의 주장은 현행법이 AI가 가능하게 하는 것들을 따라잡지 못하고 있다는 것이었습니다. 정부는 영장 없이도 미국인에 대한 방대한 양의 집계된 상업 데이터를 합법적으로 구매할 수 있으며, 실제로 이미 그렇게 해왔습니다.
OpenAI의 계약 조항은 기존 법적 틀에 기반하여 보호 조치를 마련했기 때문에, Anthropic이 실제로 우려했던 법적 격차를 해소하지 못할 수도 있습니다.
토요일 밤, 알트만은 질의응답 시간을 통해 이번 계약에 대한 수천 건의 질문에 답했습니다. 오픈AI가 정부와의 파트너십에서 철수할 이유가 무엇인지 묻는 질문에 그는 "만약 위헌적이거나 불법적인 일을 하도록 요구받는다면, 우리는 그 제안을 거절할 것입니다."라고 답했습니다.
그러한 관점은 OpenAI의 한계를 합법성 여부에 두는 것이지, Anthropic이 주장하는 것처럼 회사가 합법적인 경우 무엇을 허용하고 무엇을 허용하지 않을지에 대한 독립적인 윤리적 판단에 두는 것이 아닙니다. "합법성"에 대한 향후 분쟁에 대해 우려하는지 묻는 질문에 그는 위험성을 인정하며 "필요하다면 싸울 것이지만, 이는 분명히 우리를 위험에 노출시키는 것입니다."라고 답했습니다.
오픈AI가 앤트로픽과 달리 합의에 도달한 이유에 대해 알트만은 다음과 같이 설명했습니다. "앤트로픽은 우리가 신뢰하는 관련 법률을 인용하기보다는 계약서에 명시된 구체적인 금지 조항에 더 집중하는 것처럼 보였습니다. 둘 중 하나만 선택해야 한다면 저는 당연히 기술적 안전장치에 의존할 것입니다. 앤트로픽은 우리보다 더 많은 운영 통제권을 원했던 것 같습니다."
이는 실질적인 철학적 차이입니다. 앤스로픽은 최첨단 모델이 예측하기 어려운 방식으로 정보 및 군사 워크플로에 재활용될 수 있기 때문에, 계약 해지를 감수하더라도 제한 사항을 명시하고 서면으로 구속력을 부여해야 한다고 주장했습니다. 반면 오픈아이드는 기술 아키텍처, 전담 인력, 그리고 기존 법률이 함께 작용하여 계약서 내용만으로는 설명할 수 없는 강력한 안전장치를 제공한다고 주장합니다.
반발은 즉각적이었다. 월요일까지 " QuitGPT " 운동 측은 150만 명이 넘는 사람들이 구독 취소, 보이콧 게시물 공유, quitgpt.org 가입 등의 행동에 나섰다고 주장했다.
해당 캠페인은 오픈AI의 이번 조치를 사용자 안전보다 군사 계약을 우선시한 것으로 규정하고, 회사가 국방부가 "살인 로봇 및 대규모 감시를 포함한 모든 합법적인 목적"으로 자사 기술을 사용하도록 허용하는 데 동의했다고 비난했습니다.
OpenAI는 그러한 특징에 이의를 제기할 수도 있습니다. 하지만 시장은 그럼에도 불구하고 움직였습니다.
앤트로픽의 클로드(Claude)는 챗GPT를 제치고 애플 앱스토어에서 미국 내 가장 많이 다운로드된 무료 앱이 되었으며, 회사 측은 디크립트(Decrypt) 와의 인터뷰에서 주말 동안 일일 신규 가입자 수가 역대 최고치를 기록했다고 밝혔습니다.
팝스타 케이티 페리는 X 플랫폼에 클로드의 가격 페이지 스크린샷을 공유했습니다 . 수백 명의 사용자가 레딧에 구독 취소 사실을 공개적으로 올렸습니다 . 샌프란시스코에 있는 앤트로픽 사무실 외부에는 앤트로픽을 칭찬하는 낙서가 나타났고, 오픈AI의 인도에는 분필 낙서가 난무했습니다. 심지어 오픈AI 직원 수백 명도 이전에 앤트로픽이 미 국방부의 요구에 응하지 않은 것을 지지하는 공개 서한에 서명했습니다 .
QuitGPT 운동의 주장은 감정적으로 설득력이 있지만, 완전히 정확한 것은 아닙니다. 앤트로픽사는 팔란티어, 아마존 웹 서비스와의 파트너십을 통해 미국 정보기관과 국방부에 클로드 모델 접근 권한을 제공하고 있으며, 이 모델은 베네수엘라 와 이란 정부 전복을 위한 군사 작전에 사용되었다는 의혹을 받고 있습니다. 인공지능과 국가 안보 관련 계약의 윤리는 어느 쪽에서도 결코 깨끗하지 않았습니다.
이 캠페인이 정확하게 포착한 것은 많은 사용자들이 두 회사가 사용량 제한을 설정하는 방식에 의미 있는 차이가 있다고 믿었고, 그에 따라 구독을 취소했다는 점입니다.
그 차이가 보이는 것처럼 의미 있는 것인지 여부는 계약서를 꼼꼼히 읽어봐야 알 수 있습니다.
