미국 정부는 금요일, 국가 안보 문제를 이유로 앤트로픽사(Anthropic)에 자사의 가장 강력한 인공지능 모델 두 가지인 클로드 페이블 5(Claude Fable 5)와 클로드 미토스 5(Claude Mythos 5)에 대한 외국인 접근을 즉시 중단하라는 긴급 수출 통제 지침을 발표했습니다 . 이 지침은 앤트로픽사 직원들을 포함한 모든 외국인에게 적용됩니다.
이 지침은 미국 내외를 막론하고 모든 외국인이 해당 모델에 접근하는 것을 금지합니다. 이 명령의 광범위한 적용 범위로 인해 앤트로픽은 규정 준수를 위해 전체 고객을 대상으로 해당 모델 사용을 중단해야 했습니다.
해당 서한에는 국가 안보에 대한 구체적인 우려가 명시되어 있지 않았지만, 정부는 공개적으로 사용 가능한 Fable 5 모델을 우회하거나 "탈옥"하는 방법을 파악한 것으로 보고 있습니다. 보안 장치가 적고 특히 사이버 보안 취약점을 발견하는 데 강력한 Mythos 5는 일부 파트너에게만 제공되었습니다.
앤트로픽은 해당 발견의 심각성에 대해 이의를 제기했습니다. 회사 측은 해당 기술의 시연을 검토한 결과, 발견된 취약점은 비교적 단순해 보이며, 공개적으로 사용 가능한 다른 모델들도 별도의 우회 없이 해당 취약점을 발견할 수 있다고 결론 내렸다고 밝혔습니다.
해당 회사는 정부가 지금까지 제시한 증거는 잠재적인 제한적이고 보편적이지 않은 탈옥 가능성에 대한 구두 증거뿐이며, 이는 본질적으로 모델에게 특정 코드베이스를 읽고 소프트웨어 결함을 수정하도록 요청하는 것에 불과하다고 밝혔습니다. 앤트로픽은 또한 해당 수준의 기능이 오픈AI의 GPT-5.5를 포함한 경쟁 모델에서 이미 널리 사용되고 있음을 검증했다고 덧붙였습니다.
앤트로픽은 해당 지침을 준수하는 한편, 이러한 조치가 위험한 선례를 남긴다고 생각한다고 밝혔습니다. 회사 측은 "이 기준이 업계 전반에 적용된다면, 모든 선도적인 모델 제공업체의 새로운 모델 도입이 사실상 중단될 것"이라고 우려를 표명했습니다.
다른 모든 Anthropic 모델에 대한 접근은 영향을 받지 않습니다. 회사 측은 가능한 한 빨리 접근 권한을 복구하기 위해 노력하고 있다고 밝혔습니다.
토요일, 대통령 과학기술자문위원회 공동위원장인 데이비드 색스는 X에 기고한 글에서 “Fable을 테스트하던 중 앤트로픽과 미국 정부 모두에게 매우 신뢰할 만한 파트너가 안전장치를 뚫고 나갔다는 사실을 알게 됐다. 행정부는 앤트로픽 CEO 다리오 아모데이에게 이 문제를 해결하거나 모델을 배포 중단하라고 요구했지만, 다리오는 거부했다”고 밝혔다.
삭스는 또한 정부의 요청에 대한 앤트로픽의 반응이 AI 안전 및 규제의 필요성에 대한 회사 자체의 공개적인 주장과 상반된다고 주장했으며, 아모데이는 이번 주 블로그 게시물에서 이러한 관점을 다시 한번 공유했습니다.
삭스는 "앤트로픽은 안전보다 소비자 모델을 계속 제공하는 것을 우선시했다"며 "이에 대한 반응으로 행정부는 수출 통제를 발령했다. 행정부는 마지못해 이 조치를 취했다. 앤트로픽이 합리적인 안전 요청(예: 탈옥 문제 해결)에 협조하지 않으려는 태도는 매우 놀랍다. 앤트로픽의 반응은 안전한 AI 연구 커뮤니티라는 그들의 브랜드 이미지와 정신에 매우 어긋난다"고 썼다.
삭스는 또한 행정부가 앤트로픽이 문제를 해결하고 페이블 5가 다시 일반에 공개될 수 있기를 바란다고 덧붙였습니다.
"관리자는 앤트로픽의 기술적 역량을 높이 평가하며, 이 문제가 심각하기는 하지만 쉽게 해결될 수 있을 것으로 생각합니다."라고 그는 썼다. "이제 공은 앤트로픽에 있습니다."
올해 초, 인공지능 기업 앤트로픽은 미국 국민에 대한 대규모 국내 감시와 완전 자율형 살상 무기 시스템을 허용하는 확대된 협정에 서명하기를 거부하면서 미국 정부와 갈등을 빚었습니다.
도널드 트럼프 대통령은 협상 결렬 후 해당 회사를 강하게 비난했고 , 국방부는 앤트로픽사를 "공급망 위험" 업체로 지정했습니다. 앤트로픽사는 이 지정에 대해 법원에 이의를 제기했습니다 . 이후 정부가 클로드 미토스(Claude Mythos)를 비롯한 다른 모델들의 사용을 추진하면서 양측 간의 갈등이 다소 완화되었다는 보도가 나왔습니다.
