제임스타운재단 "중국 군 연계 연구진, 미국 AI 모델 증류해 군사 활용"

미국 연구기관 제임스타운재단이 공개 논문을 분석한 결과, 중국 인민해방군과 방산 연계 연구진이 미국의 선도 인공지능 모델에서 특정 능력을 추출해 군사·공공안전 시스템에 적용하려는 연구를 진행한 것으로 나타났다. 재단은 7월 30일 공개한 보고서에서 2024년부터 2026년 사이 발표된 중국 학술·산업 논문 수십 편을 검토했다고 밝혔다.

보고서가 주목한 기술은 ‘모델 증류’다. 규모가 큰 교사 모델의 출력으로 더 작고 저렴한 학생 모델을 학습시키는 방식으로, 업계에서 널리 쓰이는 합법적 최적화 기법이다. 다만 서비스 약관과 접근 제한을 우회해 경쟁 모델의 추론·코딩 능력을 대량 추출하거나 출처를 숨기려 할 경우 ‘적대적 증류’로 분류될 수 있다.

제임스타운재단은 일부 논문 저자가 인민해방군, 중국 방산업계, 중국과학원과 연계돼 있다고 설명했다. 공개 연구에는 GPT-3.5를 이용해 군 관련 소스코드 요약 데이터를 만들고 이를 중국 내 모델 학습에 사용한 사례, Claude 3 Haiku로 소셜미디어 감시·분류용 합성 데이터를 만든 사례가 포함됐다. 드론과 전술 장비에서 통신이 끊긴 상황에도 영상 분석과 표적 인식을 수행하도록 모델을 경량화하는 연구도 확인됐다고 재단은 밝혔다.

재단은 이들 연구가 서방 모델의 답변뿐 아니라 단계별 추론 능력을 옮기고, 증류 흔적이나 워터마크를 지우는 방법까지 다룬다고 분석했다. 다만 보고서에 수록된 논문은 공개 자료에 한정되며, 연구 제안과 실험 결과가 실제 군 작전 체계에 배치됐다는 의미는 아니다. 논문 출판에 1~2년이 걸릴 수 있어 현재 역량을 그대로 보여주는 자료로 단정하기도 어렵다.

AI 기업도 대규모 증류 공격을 별도로 경고하고 있다. Anthropic은 지난 2월 DeepSeek·Moonshot·MiniMax가 약 2만4천 개의 부정 계정을 통해 Claude와 1천600만 건이 넘는 상호작용을 생성했다고 밝혔다. 회사는 이런 방식으로 만든 모델이 원본의 안전장치를 유지하지 못한 채 군사·정보·감시 시스템에 투입될 위험이 있다고 주장했다. 미국 백악관도 4월 국가안보 기술 각서에서 미국의 프런티어 AI 시스템을 겨냥한 산업 규모의 증류 시도를 국가안보 과제로 언급했다.

이번 분석은 AI 수출 통제가 반도체와 컴퓨팅 자원만의 문제가 아니라 모델 출력과 추론 데이터의 이전까지 포함하는 문제로 확대되고 있음을 보여준다. 동시에 증류 자체는 일반적인 개발 기법인 만큼, 정상적인 연구·경량화와 접근 제한을 우회한 능력 추출을 구분할 기술적 기준과 검증 절차가 중요해질 전망이다.

출처: 제임스타운재단 https://jamestown.org/chinese-research-details-distillation-for-military-use/
출처: Anthropic 공식 발표 https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks
출처: 미국 백악관 국가안보 기술 각서 https://www.whitehouse.gov/wp-content/uploads/2026/04/NSTM-4.pdf