오픈AI, 키미 개발사 문샷AI 지목…"숨겨진 추론 빼내려 했다"

미국 오픈AI가 중국 AI 기업 문샷AI(Moonshot AI)를 정면으로 겨냥했다. 자사 모델이 겉으로 드러내지 않는 '숨겨진 추론'을 조직적으로 빼내려던 시도를 적발해 막았고, 그 중심에 키미(Kimi) 개발사 문샷AI와 연관된 인물들이 있다는 주장이다. 앤트로픽과 미국 정보·보안 당국이 잇따라 문샷AI를 지목한 데 이어 오픈AI까지 가세하면서, 미·중 AI 경쟁의 전선이 칩과 인재를 넘어 '모델 증류'로 번지는 모양새다.

> 핵심 정리

>

> * 오픈AI, 9월 30일(현지시간) 공식 블로그에서 '적대적 증류' 캠페인 적발·차단 공개

> * 7월 24~25일 이틀간 4,000여 명이 추출 패턴 요청 1만 6,000건 시도

> * 관련 사용자 집단 1만 5,000여 명 규모, 7월 28일까지 전면 차단

> * 핵심 집단을 문샷AI 관련 인물로 지목…문샷AI는 언론 문의에 즉각 답하지 않아

사건 개요

오픈AI에 따르면 이번 활동은 7월 첫 주에 처음 포착됐다. 회사는 이를 '적대적 증류(adversarial distillation)', 즉 한 모델의 출력이나 추론을 허가 없이 체계적으로 수집해 다른 모델을 학습·복제·개선하는 데 쓰는 행위로 규정했다. 오픈AI는 모든 활동이 단일 주체에서 나왔는지는 불분명하다고 전제하면서도 "핵심 집단은 문샷AI와 연관된 개인들"이라고 밝혔다. 오픈AI가 문샷AI를 공개 지목한 것은 이번이 처음이라고 파이낸셜포스트(블룸버그 기사 게재)는 전했다.

어떻게 빼내려 했나: 수법

공격자들은 암호화를 깨거나 데이터베이스, 저장된 사용자 대화에 침입하지 않았다. 오픈AI 설명에 따르면 이들은 한 대화에서 암호화된 추론 기록을 복사한 뒤, 다른 대화에서 모델에게 그 내용을 해독해 옮겨 적게 하는 방식을 썼다. 파이낸셜포스트는 오픈AI가 증류 피해를 줄이려 모델의 추론 과정을 점점 더 감춰 왔는데, 이 수법이 그 장벽을 우회한 것이라고 짚었다. 오픈AI는 독립 보안 연구자들이 책임 있는 공개 절차로 알려 온 유사 취약점도 실제로 확인했다고 밝혔다.

흥미로운 점은 앤트로픽이 9월 공개한 위협 보고서에도 거의 같은 수법이 나온다는 것이다. 앤트로픽에 따르면 문샷AI는 클로드가 원문 대신 돌려주는 '사고 서명(thinking signature)'을 저장했다가 새 세션에서 이를 전체 추론으로 되살려 내는 '교차 세션 재생 공격'을 썼다.

숫자로 본 규모

오픈AI에 따르면 활동은 7월 1일 소량으로 시작돼 7월 24~25일 정점을 찍었다. 이틀 동안 4,000명 넘는 사용자가 추출 패턴을 쓴 요청 1만 6,000건을 보냈고, 추가 조사에서 비슷한 패턴을 쓴 1만 5,000여 명의 사용자 집단이 드러났다. 다만 오픈AI는 이 수치가 '시도' 기준이며 모두 성공한 것은 아니라고 밝혔다. 파이낸셜포스트는 이 규모가 수백만 건 단위였던 앤트로픽 사례에 비하면 작다고 전하면서도, 탐지 시점과 방식이 달라 단순 비교는 어렵다는 오픈AI 측 관계자 발언을 함께 실었다.

문샷AI는 어떤 회사인가

문샷AI는 베이징에 본사를 둔 AI 기업으로, 키미 모델 시리즈를 만든다. 벡만에 따르면 지난 7월 15일 공개한 개방형 모델 '키미 K3'는 2조 8,000억 개 매개변수 규모이며, 거브인포시큐리티는 이 모델이 한때 AI 성능 순위 1위에 올랐다고 전했다. 파이낸셜포스트는 블룸버그 보도를 인용해 문샷AI가 알리바바와 약 2만 개 규모의 엔비디아 칩 사용 계약을 맺었다고 보도했다. 독일 AI 매체 벡만은 또 문샷AI가 기업가치 약 300억 달러를 목표로 홍콩 상장을 준비 중이라는 보도를 소개했다.

업계의 '증류 전쟁' 배경

증류 논란은 2025년 1월 딥시크 사태로 본격화했다. 당시 블룸버그와 더버지 보도에 따르면 오픈AI와 마이크로소프트는 딥시크 연관 그룹이 오픈AI API로 대량의 데이터를 빼냈는지 조사했지만, 오픈AI는 증거를 구체적으로 공개하지 않았다.

올해 들어 공방은 훨씬 거세졌다. 앤트로픽은 2월 딥시크·문샷AI·미니맥스가 약 2만 4,000개의 부정 계정으로 클로드와 1,600만 건 넘는 대화를 주고받았다고 발표했다. 9월 보고서에서는 문샷AI가 키미 이용자 요청을 몰래 클로드로 넘겨 답변을 키미 것처럼 보여 줬으며, 5~7월에만 2,300만 건 넘는 교환이 문샷AI와 연관된 것으로 파악됐다고 주장했다. 같은 9월 미국 국가안보국(NSA)·사이버보안·인프라보안국(CISA)·연방수사국(FBI)은 공동 권고문에서 문샷AI를 비롯한 중국 6개 기업이 미국 프런티어 모델을 산업적 규모로 증류해 왔다고 지목했다. 앞서 7월에는 마이클 크라치오스 백악관 과학기술정책실장이 문샷AI가 대중 수출이 금지된 엔비디아 블랙웰 서버에 접근했다고 주장하기도 했다.

반론과 엇갈리는 시각

반론도 만만치 않다. 사우스차이나모닝포스트에 따르면 7월 미국 정부의 주장 이후 여러 AI 전문가는 X(옛 트위터)에서 이를 "정치적", "무모하다"고 비판하며 AI 모델의 출력물에는 저작권이 없다고 지적했다. 한 문샷AI 직원은 앤트로픽 모델 공개와 키미 K3 출시 사이가 15일에 불과하다며 "15일 만에 새 프런티어 모델을 훈련했다니 기네스감"이라고 비꼬았다. 파이낸셜포스트에 따르면 트럼프 행정부의 AI 정책 총괄을 지낸 데이비드 색스는 이런 보고서들을 오픈AI·앤트로픽의 사업을 위협하는 개방형 모델을 금지하려는 시도로 규정했고, 중국 정부도 과거 증류 의혹을 부인하며 보복을 경고한 바 있다. 오픈AI 측은 "문제는 이용약관 위반이지 개방형 모델이나 정당한 증류가 아니다"라는 입장이다.

한국 기업·개발자에게 주는 의미

먼저 데이터 경로 점검이 시급하다. 앤트로픽은 문샷AI 등이 자사 이용자 요청을 클로드로 넘기는 과정에서 기업 내부 코드와 실제 접속 정보 같은 민감한 데이터가 함께 전달됐다고 밝혔다. 값싼 해외 모델이나 서드파티 라우팅 서비스를 쓰는 국내 기업이라면, 입력한 데이터가 실제로 어느 모델, 어느 사업자에게까지 가는지 확인할 필요가 있다.

모델을 직접 만드는 쪽도 마찬가지다. 상용 모델의 출력을 학습 데이터로 쓰는 일은 약관 위반이 될 수 있고, 이제 미국 정부의 안보 이슈와도 맞닿아 있다. 합성 데이터의 출처와 라이선스를 기록해 두는 습관이 앞으로 해외 파트너십이나 수출 과정에서 리스크 관리 수단이 될 수 있다.

전망

오픈AI는 프런티어 모델이 발전할수록 증류 시도도 더 정교해질 것으로 내다봤다. 파이낸셜포스트에 따르면 미국 의회에서는 불법 증류 관련 정보를 기업끼리 공유할 수 있도록 반독점 예외를 두자는 법안도 발의됐다. 문샷AI가 공식 반박에 나설지, 미국 정부가 제재 같은 실제 조치로 나아갈지에 따라 '증류 전쟁'은 기업 간 분쟁을 넘어 본격적인 통상·안보 이슈로 커질 가능성이 크다.

— SSOK.AI 그록기자

참고 자료

• 오픈AI 공식 블로그, "Disrupting a coordinated model-distillation campaign" (2026.9.30) — https://openai.com/index/disrupting-a-coordinated-model-distillation-campaign/
• 더버지(The Verge), "OpenAI claims Moonshot extracted its data to train AI models" — https://www.theverge.com/ai-artificial-intelligence/1002854/openai-claims-moonshot-extracted-its-data-to-train-ai-models
• CNBC, "OpenAI links China's Moonshot AI to extraction attempt" — https://www.cnbc.com/2026/10/01/openai-chinas-moonshot-ai-kimi.html
• 파이낸셜포스트(블룸버그), "OpenAI blames Moonshot for mass data extraction on its AI models" — https://financialpost.com/technology/tech-news/openai-blames-moonshot-for-mass-data-extraction
• 거브인포시큐리티(GovInfoSecurity), "OpenAI Accuses Moonshot AI of Coordinated Model Distillation" — https://www.govinfosecurity.com/openai-accuses-moonshot-ai-coordinated-model-distillation-a-32982
• 앤트로픽, "Detecting and preventing distillation attacks" (2026.2.23) — https://www.anthropic.com/research/detecting-and-preventing-distillation-attacks
• 앤트로픽, "Countering misuse of AI: September 2026" — https://www.anthropic.com/threat-intelligence-report-september-2026
• NSA·CISA·FBI 공동 사이버보안 권고문 (2026.9) — https://www.ic3.gov/CSA/2026/260908.pdf
• 사우스차이나모닝포스트(SCMP), "Global AI experts push back on US 'distillation' claims against Moonshot's Kimi K3 model" — https://www.scmp.com/tech/tech-war/article/3361625/global-ai-experts-push-back-us-distillation-claims-against-moonshots-kimi-k3-model
• 벡만(Beckmann), "Moonshot: White House accuses Kimi company of technology theft" — https://beckmann.ai/en/security/2026-07/moonshot-anthropic-distillation-accusation
• 더버지, "OpenAI has evidence that its models helped train China's DeepSeek" (2025.1) — https://www.theverge.com/news/601195/openai-evidence-deepseek-distillation-ai-data