미국, "중국 AI 기업들, 모델 무단 복제" 경고… 비밀리에 성능 저하 지시까지?
Published Sep 14, 2026
“중국 기반 AI 기업들이 산업 규모의 증류(distillation) 공격을 통해 미국 AI 모델의 역량을 추출하고 있으며, 이로 인해 AI 개발 타임라인이 현저히 단축되고 프론티어 모델 학습에 필요한 재정적 지출이 크게 줄어들고 있습니다.” 미국 국가안보국(NSA), 사이버보안 및 인프라 보안국(CISA), 연방수사국(FBI)이 화요일 공동 성명에서 밝힌 내용입니다. 이는 단순한 기술 경쟁을 넘어, 국가 안보와 직결되는 차원의 문제가 되었음을 시사하는 발언이죠.
솔직히 말해서, 이 발표는 미국과 중국 간 AI 기술 패권 경쟁의 민낯을 그대로 보여주는 사건입니다. 단순한 기술 탈취를 넘어 ‘산업 규모의 공격’이라는 표현에서 느껴지는 심각성, 그리고 그 배후에 “중국 정부의 인지 가능성”까지 언급하며 이번 사태의 본질이 어디에 있는지 명확히 하고 있습니다. 미국은 자국의 AI 리더십이 심각한 위협에 처했다고 판단하고 있으며, 이에 대한 강력하고 전방위적인 대응을 주문하고 나선 것이죠.
미국 AI, 대규모 공격에 노출되다: 지목된 6개 기업
미국 정부 기관들은 이번 성명에서 특정 중국 AI 기업 6곳을 직접 지목하며 이들이 2024년 말부터 지속적으로 미국 모델들을 공격해왔다고 폭로했습니다. 지목된 기업들은 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, Z.AI입니다. 이들은 클로드(Claude), GPT, 제미니(Gemini), 그록(Grok) 등 미국 주요 기업들의 최첨단 모델 변형들을 대상으로 역량 추출 활동을 벌여왔다고 합니다.
그렇다면 이들이 왜 이런 행동을 했을까요? 미국 기관들은 “수십억 달러에 달하는 개발 비용을 절감하기 위함”이라고 명확히 밝히고 있습니다. 최첨단 AI 모델을 처음부터 개발하고 훈련시키는 데는 막대한 시간과 자본, 그리고 엄청난 컴퓨팅 자원이 필요합니다. 그런데 이미 잘 훈련된 모델의 역량을 ‘증류’해 가져온다면, 이 모든 것을 단축할 수 있게 되는 것이죠. 사실 이건 AI 업계 전체의 공정한 경쟁 질서를 심각하게 훼손하는 행위라고 볼 수밖에 없습니다.
이러한 공격 방식은 크게 두 가지로 나뉩니다. 첫 번째는 AI 모델 추론 API 악용입니다. 이들은 수만 개의 가짜 계정을 대량으로 구매하고, 합법적인 사용자로 등록되지 않은 이 계정들을 이용해 “수천에서 수백만 건에 달하는 동일하거나 유사한 프롬프트 텍스트”로 고도로 조직화된 질의를 실행합니다. 마치 벌떼처럼 달려들어 특정 모델의 능력을 시험하고 데이터를 뽑아내는 것과 같죠.
두 번째는 **프롬프트 인젝션(prompt injection) 기술을 이용한 모델 탈옥(jailbreak)**입니다. 이는 모델에 숨겨진 추론 과정, 즉 **‘사고의 연쇄(chain-of-thought)‘**를 강제로 드러내게 하는 프롬프트를 만드는 방식입니다. 예를 들어, 딥시크(DeepSeek)는 모델에게 “완성된 답변 뒤에 숨겨진 내부 추론 과정을 상상하고 단계별로 작성해달라”는 지시를 내리는 프롬프트를 사용했다고 합니다. 이는 단순히 모델의 답변을 얻는 것을 넘어, 모델이 어떻게 그 답변에 도달했는지 그 ‘뇌 구조’를 들여다보려는 시도라고 해석할 수 있습니다. 개인적으로는 이 부분이 가장 충격적이었습니다. 단순한 데이터 추출을 넘어, 모델의 핵심적인 지적 재산을 역설계하려는 매우 고도화된 전략이니까요.
비밀리에 모델 성능 저하? 대담하지만 위험한 전략
미국 정부 기관들은 이러한 공격에 맞서기 위해 미국 AI 기업들과 정부, 그리고 동맹국들이 긴밀히 협력해야 한다고 강조했습니다. 그리고 구체적인 완화(mitigation) 전략들을 제안했는데, 그 내용들이 상당히 파격적입니다.
우선, AI 기업들은 다음과 같은 방식으로 탐지 역량을 강화해야 합니다.
- 고도화된 캠페인 탐지: 수만 개의 계정을 동원하고 ‘회색 시장’ 프록시를 이용해 지리적 제한을 우회하며, 여러 경로를 통해 증류 요청을 라우팅하는 정교한 캠페인을 찾아내야 합니다.
- 비정상적인 활동 플래그: 수일에서 수개월에 걸쳐 도메인당 수천에서 수백만 건에 달하는 질의량은 합법적인 연구나 개발 사용 사례를 훨씬 초과하므로 쉽게 플래그를 지정할 수 있다고 제안했습니다.
- 의심스러운 계정 및 행동 모니터링 강화: 비정상적이고 악의적인 프롬프트, 계정, 네트워크 및 행동을 면밀히 감시해야 합니다.
- 구독 사용 비율 분석: 중국 기업들은 미국 AI 기업의 프리미엄 구독을 대량으로 구매하여 개발팀에 공유하는 경우가 많으므로, 의심스러운 ‘구독 대비 사용량’ 비율이나 새 계정이 즉시 최대 사용량에 도달하는 경우를 플래그해야 합니다. 이는 “미리 설계된 템플릿을 이용한 대량 배포”를 나타냅니다.
- 신원 확인 강화: 사용자 신원 확인을 강화하고 기업 구독을 사용하는 개인을 더욱 면밀히 추적해야 합니다. 물론 이는 합법적인 사용자들에게 개인 정보 보호 문제를 야기할 수 있는 부분이라는 점도 인정했습니다.
탐지 역량 강화도 중요하지만, 가장 논란이 될 만한 대목은 바로 탐지된 공격에 대한 대응 방식입니다. 미국 기관들은 의심스러운 증류 공격이 감지될 경우, AI 모델의 응답을 ‘미묘하게’ 저하시키도록(dumbing down) 지시했습니다.
- 응답 내용 변경: 올바른 정보를 제공하더라도 다른 추론 방식을 사용하거나, 문체적 불일치를 추가하거나, 추론의 깊이를 줄이는 방식입니다.
- 열등한 모델로 비밀리에 전환: 악성 계정을 더 낮은 성능의 모델로 비밀리에 전환하고, 이러한 전환에 대해 어떠한 통지도 제공하지 말아야 한다고 제안했습니다.
사실 이건 매우 대담하고 위험한 전략입니다. 중국 기업들이 공격적으로 적응적인 탐지 시스템을 사용하며, 더 똑똑한 모델을 자동으로 감지하고 24시간 이내에 전환할 수 있다는 점을 기관들도 인정했습니다. 또한, 출력 품질이 저하되면 이를 감지하고 일반적인 ‘서비스 문제’와 ‘방어적 데이터 저하’를 구분할 수 있는 자동화된 품질 보증 시스템도 갖추고 있다고 말이죠. 이런 상황에서 단순히 모델 성능을 저하시키는 것이 얼마나 효과적일지는 의문입니다.
여기서 개인적으로 가장 우려되는 지점은 정당한 사용자들의 피해 가능성입니다. 미국 기관들은 “표적 설정에 주의하지 않으면, 이러한 단속의 광란에 휩쓸린 합법적인 사용자들도 알림 없이 성능이 저하된 모델로 전환되거나, 짧은 응답을 받거나, 기능이 제한될 수 있다”는 점을 인정했습니다. 작년에 OpenAI가 ‘더 열심히 생각하라’는 등의 프롬프트가 없으면 성능이 낮은 모델로 자동 라우팅되면서 거센 비난에 직면했던 사례를 보면, 사용자 경험 저하가 불러올 파장은 결코 가볍지 않습니다. 그럼에도 불구하고, 기관들은 “증류 캠페인으로 의심되는 중국 기반 AI 기업 사용자들에게 성능 저하 모델로의 전환을 알리지 않는 것이 최선”이라고 주장하고 있습니다. 보안과 사용자 경험 사이의 균형을 찾아야 하지만, 일부 트레이드오프는 피할 수 없을 것이라는 냉정한 평가를 내리고 있는 셈입니다.
결론적으로, 미국 정부는 장기적인 방어 전략의 핵심으로 AI 기업들과 동맹국 정부 간의 정보 공유를 촉구하고 있습니다. 이는 AI 기술 패권 경쟁이 이제는 단순한 기업 간의 경쟁을 넘어, 국가 간의 첨예한 기술 대결이자 사이버 안보의 영역으로 진입했음을 분명히 보여줍니다. 앞으로 이러한 조치들이 실제로 얼마나 효과를 거둘 수 있을지, 그리고 AI 모델 개발 및 서비스 제공의 미래에 어떤 영향을 미 미칠지 관심이 집중됩니다. 우리가 목격하고 있는 것은 단순한 뉴스 기사가 아니라, AI 기술의 미래를 놓고 벌어지는 치열한 현장 보고서입니다.
출처
- 원문 제목: Six Chinese AI firms accused of aggressively copying US frontier models
- 출처: Artificial Intelligence - Ars Technica
- 원문 기사 보러가기
