RAND, 군사 AI 겨냥한 공격의 확전 위험 경고…복구·대체 수단 권고

RAND 유럽이 군사 및 국가 핵심 인프라에 쓰이는 AI를 교란하는 공격이 국가 간 오판과 확전 위험을 높일 수 있다고 분석했다. 9월 29일 공개한 공식 보고서에서 다섯 가지 시나리오를 검토하고, AI 시스템의 복구 계획과 대체 운용 수단을 마련하라고 권고했다.

이번 연구는 영국 외무·영연방·개발부(FCDO)의 의뢰로 RAND 유럽이 수행했다. 연구 기간은 2025년 9월부터 2026년 2월까지다. 보고서는 연구진의 분석을 담은 것으로, 영국 정부의 공식 정책을 발표한 문서는 아니다.

연구진이 다룬 ‘적대적 AI 공격’은 AI를 도구로 사용한 해킹 전반이 아니라 AI 시스템 자체를 겨냥한 공격이다. 데이터를 조작해 시스템 접근을 막거나 잘못된 판단을 유도하고, 기밀 정보가 드러나게 만드는 방식 등을 구분했다.

분석 대상에는 자율무기, 군사 의사결정 지원 시스템, 군사 지원·운영 기능, 핵 지휘·통제·통신 체계(NC3), 국가 핵심 인프라가 포함됐다. 문헌 검토와 전문가 인터뷰, 워크숍을 바탕으로 공격의 파급 경로를 살펴보고 다섯 가지 시나리오에서 전략적 안정성에 미치는 영향을 검토했다.

보고서가 특히 짚은 문제는 AI의 일반적인 오작동과 의도적인 공격을 구분하기 어렵다는 점이다. 모델의 취약성 때문에 결과가 틀렸는지, 누군가 시스템을 조작했는지 판단하기 어려우면 상대국의 의도를 잘못 해석할 수 있다. 공격 주체를 특정하기 어려운 상황도 불신과 오판을 키우는 요인으로 제시됐다.

재래식 군사 체계와 핵 지휘·통제·통신 체계가 연결된 경우에는 파급 범위가 더 커질 수 있다. 연구진은 재래식 체계를 겨냥한 공격이 의도하지 않게 핵 관련 체계에 영향을 주면서 위기를 확대할 가능성을 경고했다. 이는 실제 핵 체계 침해 사건을 확인했다는 뜻이 아니라, 시나리오 분석에서 도출한 위험이다.

대응책은 모델의 정확도나 공격 방어 성능을 높이는 데서 끝나지 않는다. 연구진은 공격 이후 기능을 얼마나 빨리 복구할 수 있는지, 대체 기술이나 수동 절차로 전환할 수 있는지를 함께 준비해야 한다고 권고했다. 가능한 경우 병렬 시스템을 마련해 한 지점의 장애가 전체 기능 중단으로 이어지지 않도록 하고, 복구 계획을 정기적으로 시험·훈련하라는 제안도 담았다.

외교적 대응도 필요하다는 판단이다. 동맹·협력국 사이에서는 공격 기법과 사고 정보를 공유하고, 경쟁국과는 의심스러운 사고가 발생했을 때 신속히 소통할 창구를 마련하도록 권고했다. 허용할 수 없는 공격의 범위와 대응 원칙을 명확히 전달하는 조치도 오판과 확전 위험을 줄이기 위한 과제로 들었다.

보고서의 초점은 AI 도입의 효용보다 AI가 실패하거나 교란됐을 때의 연쇄 영향에 있다. 연구진은 이러한 위험을 단순한 사이버보안 문제나 AI 품질 검증 문제로만 다루지 말고, 국가 안보와 국제적 위기관리 논의에 포함해야 한다고 강조했다.

출처: RAND 유럽 공식 보고서 소개(2026년 9월 29일)
https://www.rand.org/pubs/research_reports/RRA4734-2.html
RAND 유럽 「Adversarial Artificial Intelligence」 연구보고서 원문
https://www.rand.org/content/dam/rand/pubs/research_reports/RRA4700/RRA4734-2/RAND_RRA4734-2.pdf