저자: 슝 레이
편집자: 쉬칭양(Xu Qingyang)
미국 현지 시간으로 6월 12일 금요일, 인공지능 규제 역사상 보기 드문 정부와 기업 간의 대립이 갑작스럽게 발생했습니다.
미국 정부는 국가 안보 문제를 이유로 앤트로픽(Anthropic) 사에 수출 통제 명령을 내리고, 모든 해외 기관의 Fable 5 및 Mythos 5 AI 모델 접근을 즉시 중단할 것을 요구했습니다. 이 명령은 적용 범위가 매우 넓어 미국 외 해외 사용자뿐 아니라 미국 내 외국인, 심지어 앤트로픽사의 외국인 직원에게까지 영향을 미칩니다.
규정 준수 조치의 일환으로 Anthropic은 모든 사용자의 해당 두 모델 접근을 완전히 차단해야 했습니다. 현재로서는 "외국 기업"과 "미국 시민" 사용자 그룹을 기술적으로 구분할 수 없기 때문에 이것이 규정 준수를 보장하는 유일한 실행 가능한 해결책입니다. 회사의 다른 모델에 대한 접근은 영향을 받지 않으며, 사용자는 자동으로 Claude Opus 4.8 버전으로 되돌아갑니다.
이번 갑작스러운 서비스 중단은 전혀 예상치 못한 일이었다. Fable 5와 Mythos 5는 불과 3일 전인 6월 9일에 공식 출시되었다. 두 게임의 갑작스러운 철수 IT 업계와 AI 커뮤니티에 큰 충격을 안겨주었다.
01 두 모델은 정확히 무엇인가요?
이 논란의 핵심 갈등을 이해하려면 먼저 Fable 5와 Mythos 5가 어떤 모델인지, 그리고 왜 처음부터 규제 당국의 주목을 받아왔는지 이해해야 합니다.
Mythos는 Anthropic의 새로운 모델 제품군으로, Opus 시리즈를 뛰어넘는 성능을 자랑하며, 현재 Anthropic이 공개적으로 배포할 수 있는 최고 수준의 기능을 갖추고 있습니다. 최초의 Mythos 유사 모델인 Claude Mythos Preview는 올해 4월 "Project Glasswing"을 통해 출시되었으며, 사이버 보안 분야에서의 강력한 기능 때문에 광범위한 배포가 어려워 소수의 파트너에게만 접근이 엄격하게 제한되었습니다.
Fable 5는 공식적으로 공개된 최초의 미소스(Mythos)급 모델입니다. 이 모델은 Anthropic이 이전에 출시했던 모든 모델을 능가하는 성능을 자랑하며, 소프트웨어 엔지니어링, 지식 작업, 시각적 이해, 과학 연구 등 거의 모든 벤치마크에서 최고 수준의 성능을 달성합니다.
공개 배포를 위해 Anthropic은 Fable 5에 전용 보안 메커니즘을 탑재했습니다. 사이버 보안, 생물학, 화학과 같은 리스크 영역에서는 모델이 자동으로 응답을 차단하고 Claude Opus 4.8 처리로 전환합니다.
Mythos 5는 동일한 기본 모델을 기반으로 하지만 보안 수준이 낮게 설계된 버전입니다. 이 버전은 이전에 Project Glasswing에 대한 접근 권한을 획득한 승인된 조직만 이용할 수 있으며, 사이버 보안 담당자와 중요 인프라 운영자를 위한 전문 도구로 자리매김하고 있습니다. 두 모델 모두 가격은 동일하게 입력 토큰 백만 개당 10달러, 출력 토큰 백만 개당 50달러입니다.
02 명령 실행 트리거
보도에 따르면, 하워드 루트닉 미국 상무장관은 6월 12일 앤트로픽 CEO 다리오 아모데이에게 서한을 보내 Mythos 5와 Fable 5가 수출 통제 대상이 될 것이라고 통보했습니다. 이러한 결정의 직접적인 계기는 다른 회사가 Mythos를 "탈옥"할 수 있다고 주장하면서 트럼프 행정부가 국가 안보 리스크 가능성을 우려한 것이었습니다.
트럼프 행정부는 이전에 앤트로픽사가 해당 두 모델을 출시하는 것을 막으려 했으나 실패했고, 이에 따라 수출 통제라는 더욱 강력한 조치를 취한 것으로 알려져 있습니다.
이 갑작스러운 명령 대면, 앤트로픽은 규정을 준수하는 한편, 이례적으로 강한 어조의 장문의 성명을 발표하여 정부의 논리를 체계적으로 반박했습니다.
앤스로픽은 정부가 보유한 "탈옥" 증거가 매우 제한적이고 일반적이지 않은 공격 방식에만 해당한다고 믿습니다. 이 공격 방식은 모델이 특정 코드베이스를 읽고 그 안의 소프트웨어 취약점을 수정하는 것을 요구하며, 이는 오픈아이디어 GPT-5.5를 포함한 다른 공개 모델에도 존재하는 유사한 기능으로, 사이버 보안 담당자들이 일반적인 시스템 유지 관리를 위해 매일 사용하고 있습니다.
앤트로픽은 성명에서 "제한된 수의 잠재적 탈옥 시도"를 기준으로 배포된 비즈니스 모델을 회수하는 것은 업계 전반에 걸쳐 최첨단 모델의 신규 배포를 사실상 중단시키는 결과를 초래할 것이라고 명시적으로 밝혔습니다. 또한, 정부의 조치는 이전에 공개적으로 요구했던 바와 같이 투명성, 공정성, 기술적 사실에 근거한 법적 절차를 따르지 않았다고 강조했습니다.
앤트로픽은 정부의 정당한 지시에 따를 것이며, 최대한 빠른 시일 내에 접속을 복구하기 위해 정부와 적극적으로 소통하고 있다고 밝혔습니다. 자세한 기술적 내용은 24시간 이내에 공개될 예정입니다. 회사는 이번 사건이 오해에서 비롯된 것으로 판단하며, 사용자 여러분께 불편을 끼쳐드린 점 진심으로 사과드립니다.
다음은 앤스로픽이 "미국 정부의 Fable 5 및 Mythos 5 접속 중단 명령에 관하여"라는 제목으로 발표한 성명 전문입니다.
미국 정부는 국가 안보를 이유로 수출 통제 지침을 발표했으며, 이에 따라 미국 내외를 불문하고 모든 외국인(앤트로픽의 해외 직원 포함)의 Fable 5 및 Mythos 5 접속을 차단해야 합니다. 따라서 본 지침을 준수하기 위해 모든 사용자의 Fable 5 및 Mythos 5 접속을 즉시 차단해야 합니다. 다른 앤트로픽 모델은 이번 조치의 영향을 받지 않습니다.
저희는 오늘 오후 5시 21분(미국 동부시간)에 해당 지시를 받았습니다. 서한에는 국가 안보 관련 우려 사항은 명시되어 있지 않았습니다. 저희가 파악한 바로는, 정부는 소위 "탈옥(jailbreak)" 기법을 이용해 Fable 5의 보안 조치를 우회하는 방법을 알아냈다고 판단하고 있습니다. 저희는 이 기법의 시연 영상을 검토한 결과, 기존에 알려진 사소한 취약점 몇 가지만 식별할 수 있다는 것을 확인했습니다. 이러한 취약점은 비교적 간단하며, 공개적으로 사용 가능한 다른 모델을 이용하면 탈옥 없이도 동일한 문제를 탐지할 수 있습니다.
Fable이 게시한 블로그 글에서 Anthropic은 자사의 보안 조치에 대한 입장을 다음과 같이 설명했습니다.
저희는 Fable이 사이버 보안 및 관련 작업에 악용될 가능성을 크게 줄이는 강력한 보안 메커니즘을 구축했습니다. 실제로 일부 사용자는 저희의 보호 조치가 지나치게 엄격하다고 말하기도 합니다.
Fable 출시를 앞둔 몇 주 동안 Anthropic은 미국 정부, 영국 AI 보안 연구소, 여러 외부 기관 및 자체 팀과 협력하여 Fable의 보안에 대한 수천 시간의 레드팀 테스트를 수행했습니다. 테스트 결과는 Fable의 보안이 이전에 배포된 어떤 모델보다 훨씬 우수하다는 것을 입증했습니다.
현재까지 어떤 테스터도 "범용 탈옥" 방법, 즉 모델의 보안 보호 기능을 완전히 우회하고 대규모 네트워크 공격 기능을 활성화할 수 있는 탈옥 방법을 찾아내지 못했습니다.
저희는 현재 어떤 플랫폼 제공업체도 완벽한 탈옥 방지 기능을 구현할 수 없다고 생각합니다. 모든 업계 표준 보호 메커니즘은 "비범용적 탈옥"(즉, 특정 상황에서 부분적인 네트워크 정보를 획득하는 방식)에 취약하며, 향후 범용적인 탈옥 방법이 등장할 수도 있습니다. 저희는 Fable 5 출시 당시 이 점을 분명히 밝혔습니다.
현재 완벽한 탈옥 방지가 불가능하다는 점을 고려하여, Anthropic은 Fable 5에 대해 심층 방어 전략을 채택했습니다. 저희의 목표는 탈옥 공격의 범위를 극히 제한적(일반적인 탈옥 시도 제외)으로 만들거나, 공격 비용을 극도로 높이는 것(일반적인 탈옥 시도 제외)과 더불어, 포괄적인 모니터링 시스템을 통해 모든 공격을 신속하게 탐지하고 차단하는 것입니다. 이러한 이유로 Anthropic은 고객 데이터를 30일 동안 보관합니다. 이 정책은 고객 관계에 다소 영향을 미칠 수 있지만, 탈옥 리스크 조사하고 해결하는 데 도움이 됩니다.
저희는 이러한 심층 방어 전략을 고수합니다. 이 전략은 Fable과 관련된 리스크 효과적으로 줄여 업계에 이미 배포된 모델과 유사한 리스크 으로 낮춥니다.
현재까지 당사는 심각한 결과를 초래할 수 있는 비정상적인 탈옥 시도에 대한 공식적인 제보를 받은 적이 없습니다. 당사에 제보된 잠재적 탈옥 사례는 모두 무해하거나, Mythos의 독점적인 기술력을 입증하지 못하는 사소한 발견에 불과했습니다.
현재 미국 정부는 특정 코드베이스를 읽고 소프트웨어 취약점을 수정하는 것을 모델로 사용하는, 범위가 제한적이고 범용적이지 않은 탈옥 방법에 대한 구두 증거만 제공했습니다. 저희가 파악한 바로는, 이 잠재적 탈옥 방법은 정부와 공유되었습니다. 저희는 정부 지침의 근거가 된 것으로 추정되는 보고서를 검토한 결과, 보고서에 설명된 수준의 기능이 다른 모델(OpenAI의 GPT-5.5 포함)에서도 널리 사용되고 있으며, 사이버 보안 담당자들이 시스템 보안 유지를 위해 매일 사용하고 있음을 확인했습니다. 24시간 이내에 더 자세한 내용을 공개할 예정입니다.
저희는 모든 사용자의 Fable 5 및 Mythos 5 접속을 차단하라는 정부의 정당한 지시를 준수할 것입니다. 그러나 제한적인 범위의 잠재적 탈옥 방법을 발견했다는 이유만으로 이미 수억 명의 사용자에게 배포된 상용 모델을 회수해야 한다는 주장에는 동의하지 않습니다. 이러한 기준을 업계 전체에 적용한다면 모든 주요 모델 제공업체가 새로운 모델 배포를 완전히 중단해야 할 것입니다.
우리는 정부가 투명하고 공정하며 명확하고 기술적으로 사실에 근거한 법적 절차에 따라 안전하지 않은 모델의 배포를 차단할 권리가 있어야 한다고 공개적으로 밝힌 바 있습니다. 이번 조치는 이러한 원칙을 따르지 않았습니다.
사용자 여러분께 불편을 끼쳐드려 진심으로 사과드립니다. 이번 사건은 오해에서 비롯된 것으로 판단되며, 최대한 빠른 시일 내에 접속이 복구될 수 있도록 적극적으로 조치하고 있습니다.
