주요 요약
- 6월 12일 저녁, 미국 상무부는 외국인의 해당 기기 접근을 금지하는 서한을 발표했고, 이로 인해 앤트로픽은 전 세계 고객을 대상으로 Fable 5와 Mythos 5 서비스를 중단할 수밖에 없었습니다.
- 이번 논란의 발단은 제3자가 Mythos 5를 "탈옥"했다는 주장이었지만, Anthropic은 해당 취약점은 이미 알려져 있었고 GPT-5.5에서도 악용될 수 있다고 반박했습니다.
- 상무부는 처음으로 인공지능 모델 자체에 수출 통제 허가 권한을 적용하여 수출과 이전 모두에 대해 사례별로 허가를 신청하도록 요구하고 있다.
미국 정부의 조치는 신속하고 단호했습니다. 6월 12일 오후 5시 21분, 앤스로픽은 미국 상무부로부터 공식 서한을 받았는데, 그 서한에는 출시된 지 불과 3일밖에 되지 않은 Fable 5와 Mythos 5에 대한 모든 외국인의 접근을 즉시 금지하라는 요구가 담겨 있었습니다.
이 서한은 하워드 루트닉 상무장관이 서명했으며, 상무부 산업안보국(BIS) 관계자들이 작성했습니다. 규정을 준수하기 위해 앤트로픽은 자사 해외 직원을 포함한 "모든" 고객으로부터 두 모델 모두 연결을 해제할 수밖에 없었습니다.
출시부터 전 세계적인 폐쇄까지 단 3일밖에 걸리지 않았습니다.
하지만 이러한 갑작스러운 중단은 사실 몇 주 전부터 예견된 것이었다. 악시오스는 정부 관계자를 인용하여, 두 모델이 6월 9일 공식 출시되기 전부터 상무부가 해당 모델들의 "극도로 강력한 사이버 보안 추론 능력"에 대해 깊은 우려를 표명했으며, 앤트로픽 측에 출시 연기를 여러 차례 설득하려 했지만 성공하지 못했다고 보도했다.
앤트로픽은 당시 절충안을 채택했습니다. 일반에 공개된 버전은 매우 엄격한 필터가 장착된 상용 버전인 Fable 5였습니다. 사이버 보안, 생물학 또는 화학과 관련된 질문이 나오면 자동으로 기능이 떨어지는 Claude Opus 4.8로 대화가 연결되었습니다. 완전히 "자유로운" 기본 모델인 Mythos 5는 "프로젝트 글래스윙"의 엄격한 통제 하에 있었으며, 신원 조사를 거친 약 50개의 레드팀 조직, 중요 인프라 운영자 및 국방 부서만 접근할 수 있었습니다.
이러한 우려는 근거 없는 것이 아닙니다. 앤트로픽(Anthropic)은 글래스윙(Glasswing) 프로젝트가 출시된 후 몇 주 만에 마이토스(Mythos)가 50개 파트너사와 함께 주요 소프트웨어에서 1만 개 이상의 고위험 및 심각한 취약점을 발견했다고 밝혔습니다. 테스트 과정에서 해당 모델은 사용자가 명령을 내리기만 하면 모든 주요 운영 체제와 주요 브라우저에서 제로데이 취약점을 찾아 악용할 수 있었습니다.
소문에 따르면 그 이유는 "탈옥"이었다.
사태를 촉발시킨 결정적인 계기는 모델 출시 3일 만에 제3의 업체가 통제된 Mythos 5 시스템을 성공적으로 "탈옥"했다고 주장하며 그 결과를 발표한 것이었습니다. 루트닉과 상무부에게 이는 강력한 개입을 위한 절호의 기회였습니다.
하지만 앤트로픽의 버전은 다릅니다. 회사 측은 검토한 데모가 실제로는 Fable 5 공개 버전의 필터였다고 밝혔습니다. 이 방법은 모델이 특정 코드 조각을 읽고 소프트웨어 결함을 찾아 수정하여 최종적으로 "이미 알려진 몇 가지 사소한 취약점"만 발견하도록 하는 것입니다. 이 방법은 매우 간단하며, OpenAI의 GPT-5.5와 같은 다른 공개 모델도 비슷한 작업을 수행할 수 있습니다.
수출 통제 최초 제한 모델 자체
이번에 상무부는 과거 반도체나 무기류 규제에 사용되었던 '수출 통제' 허가 제도를 발동했습니다. 공식 서한에 따르면, 앤트로픽은 향후 해당 모델의 수출, 재수출 또는 국내 이전 시 건별로 허가를 신청해야 하며, 위반 시 민사 및 금전적 처벌을 받게 됩니다. 원래 물리적 상품에 적용되던 수출 통제 제도를 소프트웨어 모델에 직접 적용하는 이례적인 조치는 실로 획기적인 행보입니다.
- 이 금지 조치는 미국 내외의 모든 외국인에게 적용되며, 앤트로픽의 외국인 직원도 포함됩니다. 모든 외국인은 [해당 서비스/자원]에 접근할 수 없습니다.
- 허가 요건은 수출, 재수출 및 국내 이전 모델에 적용되며, 각 모델은 개별적으로 허가 신청이 필요합니다.
- 위반 시 민사상 및 금전적 처벌이 따릅니다.
- Fable 5와 Mythos 5만 영향을 받으며, 다른 인류 모델은 영향을 받지 않습니다.
앤트로픽은 이에 반박하며 "이는 오해라고 생각하며 최대한 빨리 접속을 복구하기 위해 노력하고 있다"는 성명을 발표했습니다. 또한, 수억 명에게 배포된 상업적으로 성공적인 모델이 잠재적인 취약점 때문에 리콜될 경우, 이러한 기준을 업계 전체에 적용하면 주요 모델 공급업체의 모든 신제품 출시가 사실상 중단될 것이라고 단호하게 밝혔습니다.
우리는 극히 제한적인 탈옥 가능성을 발견했다는 이유만으로 수억 명에게 배포된 상용 모델을 리콜해야 한다는 주장에 동의하지 않습니다.
한 관계자는 이 두 모델이 "향후 몇 주" 동안 사용이 금지될 수 있으며, 정부가 국가 안보 조치를 강화할 때까지 해제되지 않을 것이라고 밝혔습니다. 아이러니하게도, 금지 조치가 시행되기 바로 하루 전, 앤트로픽 CEO 다리오 아모데이는 "정부는 리스크 AI에 대한 거부권을 가져야 한다"고 공개적으로 주장했습니다. 이제 정부는 실제로 개입했지만, 그가 원했던 방식은 아닙니다.
자주 묻는 질문
미국 정부는 왜 앤스로픽의 페이블 5와 미소스 5 동결 했을까요?
6월 12일, 루트니크 상무부 장관은 국가 안보를 이유로 외국인의 해당 기기 접근을 금지하는 수출 통제 허가 권한을 발동하는 서한을 발표했습니다. 이는 한 제3자 업체가 Mythos 5의 탈옥(jailbreaking)에 성공했다고 주장한 데 따른 것이었습니다. 규정을 준수하기 위해 앤트로픽은 전 세계 고객에게 해당 두 모델의 판매를 전면 중단할 수밖에 없었습니다.
Fable 5와 Mythos 5의 차이점은 무엇인가요?
Fable 5는 엄격한 필터가 적용된 공개 상용 버전입니다. 사이버 보안 및 생물학적 위험에 대한 질문은 자동으로 Claude Opus 4.8로 전달되어 처리됩니다. 반면 Mythos 5는 보안 잠금이 해제된 기본 모델로, "Glass Wing Project"를 통해 승인된 약 50개의 레드팀 조직 및 방어 부대에만 제공됩니다.
관련 보고서
오픈AI를 떠나 펜타곤과 맞서기까지: 인류학 형제자매들은 문명의 붕괴를 막기 위해 인공지능에 어떤 레드라인을 그었는가.
유니스왑 창립자는 클로드 페이블 5의 "보안 필터"가 필수적인 검사를 건너뛰는 어리석은 기능이라고 비판했습니다.
앤트로픽은 인공지능을 죽이는 도구가 되기를 거부하며, 클로드 금지 조치 철회를 요구하며 미 국방부를 상대로 소송을 제기했습니다.
