출시 3일 만에 사라진 Claude Fable 5, 최초의 AI 수출통제 사건 전말

6월 9일에 나온 모델이 6월 12일 금요일 밤에 사라졌다. 버그도 아니고 서버 장애도 아니고, 미국 정부의 수출통제(export control) 명령 때문이었다. 소프트웨어도 아닌 AI 모델 하나가 수출통제 품목이 된 건 이번이 처음이다. 그리고 18일 뒤인 6월 30일, 통제가 풀렸고 7월 1일부터 다시 전 세계에 배포되고 있다.

그 사이에 무슨 일이 있었는지, 뉴스 헤드라인 말고 실제 문서들을 따라가 보면 꽤 재미있는 그림이 나온다. 결론부터 말하면 이 사태의 교훈은 "AI가 위험해졌다"가 아니라 "모델 접근권이 지정학 변수가 됐다"에 가깝다.

일단 Fable 5가 뭔지부터

Anthropic이 6월 9일에 두 개를 동시에 내놨다. Claude Fable 5와 Claude Mythos 5. 이름은 다르지만 밑바닥 모델은 같다. 차이는 세이프가드 하나다.

• Mythos 5: 세이프가드 최소. 사이버 방어 파트너 등 승인된 조직에만 제공
• Fable 5: 같은 모델에 Anthropic 역사상 가장 강한 세이프가드를 붙여 일반 공개

Mythos급(Mythos-class)은 기존 최상위였던 Opus 위에 새로 만든 티어다. 컨텍스트 1M 토큰, 가격은 입력 $10 / 출력 $50 per MTok으로 Opus 4.8의 딱 두 배. 출시 직후 반응은 "장시간 에이전트 작업에서 다른 모델과 급이 다르다"는 쪽이었고, 벤치마크가 아니라 실사용 후기들이 그랬다는 점에서 이례적이었다.

세이프가드 방식도 특이하다. 위험할 수 있는 사이버보안·생물학 관련 요청이 감지되면 Fable 5가 답하지 않고 한 단계 아래인 Opus 4.8이 대신 답한다. Anthropic 스스로 "일부러 보수적으로 튜닝했다, 무해한 요청도 걸린다"고 인정했다. 세션 기준 5% 미만에서 이 폴백이 발생한다고.

이 "일부러 과하게 잡은 분류기"가 이번 사태의 복선이다.

왜 내려갔나: 아마존 보고서 한 장

출시 사흘 뒤, Amazon 연구진이 Fable 5의 세이프가드를 우회하는 방법을 찾았다. 프롬프트를 특정 방식으로 구성하면 모델이 코드베이스를 읽고 소프트웨어 취약점들을 짚어냈고, 그중 한 건은 해당 취약점을 어떻게 익스플로잇하는지 시연 코드까지 뽑아냈다.

여기까지만 보면 흔한 탈옥(jailbreak) 리포트다. 출시 전 외부 버그바운티 1,000시간에서도 범용 탈옥은 안 나왔으니, 특정 우회 기법 하나가 나온 셈이다. 보통이면 Anthropic에 제보하고, 패치하고, 끝이다.

그런데 Amazon은 이걸 백악관으로 가져갔다.

그 결과가 6월 12일의 수출통제 지시다. 내용은 "Fable 5와 Mythos 5에 대한 외국인(foreign nationals)의 접근을 차단하라"는 것. 미국 밖은 물론이고 미국 안에 있는 외국인도 포함이다. Anthropic 내부의 외국인 직원까지.

문제는 명령이 즉시 발효였다는 점이다. 채팅창 너머에 있는 사용자가 미국 시민인지 실시간으로 검증할 방법 같은 건 없다. 그래서 Anthropic이 택한 컴플라이언스 방법은 하나뿐이었다. 전원 차단. 국적을 가릴 수 없으니 전부 끈 것이다. 화요일에 출시된 모델이 금요일에 사라진 이유가 이거다.

왜 다시 올라왔나: 까보니 하위 모델도 다 되는 거였다

여기부터가 이 사태에서 제일 아이러니한 부분이다.

Anthropic이 정부, Amazon과 함께 2주간 보고서를 검증했다. 그 결과:

• 보고서의 취약점 식별은 Opus 4.8, GPT-5.5, Kimi K2.7 같은 하위 모델들도 동일하게 해냈다
• 익스플로잇 시연 코드는 더하다. Haiku 4.5부터 Sonnet 4.6, Opus 4.6/4.7/4.8, GPT-5.4/5.5, Kimi K2.7까지 테스트한 전 모델이 같은 결과물을 냈다

정리하면, 우회 기법으로 접근된 능력은 Mythos급 고유의 위험 능력이 아니었다. 누구나 지금 당장 쓸 수 있는 모델들, 심지어 경쟁사와 중국 모델까지 이미 갖고 있는 수준의 능력이었다는 얘기다.

그럼 뭐가 뚫린 거냐. 앞에서 말한 "일부러 과하게 잡은 분류기"다. 위험하지 않지만 조심 차원에서 막아둔 작업 — 이 경우 일상적인 방어 보안 업무 수준의 취약점 분석 — 이 있었고, 우회 기법은 그 경계선 케이스에 도달한 것뿐이었다. 진짜 위험 능력의 봉인이 풀린 게 아니라, 과잉 차단 구역의 문틈이 발견된 것이다.

그래도 Anthropic은 해당 기법을 타겟으로 하는 분류기를 새로 학습시켜 99% 이상 차단하도록 배포했고(걸리면 역시 Opus 4.8로 폴백), 이 대응을 근거로 6월 30일 상무부가 수출통제를 해제했다. 7월 1일부터 Claude.ai, API, Claude Code에 글로벌 재배포 중이고, AWS·Google Cloud·Microsoft Foundry 쪽은 순차 복구다.

개발자 입장에서 챙길 것 세 가지

1. 모델 접근권은 이제 지정학 변수다. 서버 장애는 status 페이지 보고 기다리면 되지만, 정부 명령은 예고도 SLA도 없다. 금요일 밤에 프로덕션 파이프라인의 핵심 모델이 법적으로 증발할 수 있다는 게 실증됐다. 특정 프론티어 모델에 하드 의존하는 구조라면 폴백 모델 스위칭 정도는 설계에 넣어두는 게 맞다. 나는 이번에 사이드 프로젝트 쪽 모델 호출부를 어댑터 패턴으로 한 겹 감싸는 작업을 앞당겼다.

2. 제로 리텐션(zero data retention)은 끝났을 수 있다. Fable 5와 Mythos 5는 "Covered Model"로 지정돼 30일 데이터 보존이 강제다. 기존에 ZDR 계약이 있던 기업도 예외 없다. 학습에는 안 쓰고 30일 뒤 삭제한다지만, "최상위 모델 접근 = 의무 보존 수용"이라는 등식이 업계 표준이 될 가능성이 있다. 컴플라이언스 민감한 도메인이라면 모델 선택 기준에 이 항목이 추가된 셈이다.

3. 요금 구조는 계속 흔들린다. 복귀 조건도 깔끔하지 않다. 7월 7일까지는 Pro/Max/Team 플랜에서 주간 한도의 50%까지만 Fable 5를 쓸 수 있고, 그 이후는 별도 사용량 크레딧 과금으로 넘어간다. 수요 예측이 안 돼서라는데, 구독 플랜에 표준 포함되는 시점은 "가능한 빨리"라는 말뿐이다. 지금 Fable 5 기준으로 워크플로를 짜면 다음 주에 비용 구조가 바뀐다.

내 생각 정리

Fable 5는 위험해서 내려간 게 아니다. 과잉 차단용 분류기의 경계선 하나가 뚫렸고, 그게 백악관까지 올라가면서 사상 첫 AI 모델 수출통제가 발동됐고, 2주 검증 끝에 "하위 모델도 다 되는 능력이었다"는 결론과 함께 풀렸다. 남은 건 모델 하나가 아니라 선례다. 정부가 모델을 끌 수 있고, 프론티어 접근에는 데이터 보존이 따라붙는다는 선례.

다음 글에서는 Fable 5의 폴백 구조(분류기 → Opus 4.8 라우팅)를 뜯어본다. 멀티 모델 서비스 설계 관점에서 참고할 게 꽤 있다.