연구진, 적응형 AI 웜 실험 공개…오픈웨이트 모델 악용 가능성 경고

arXiv와 토론토대 공과대학 공식 발표에 따르면, Jonas Guan·Tom Blanchard·Hanna Foerster·Hengrui Jia·Gabriel Huang·Nicolas Papernot 연구진은 AI 에이전트가 표적별 공격 전략을 생성하는 적응형 컴퓨터 웜 개념증명을 공개했다.

논문은 전통적 웜이 사전에 정해진 취약점을 악용하는 방식과 달리, 이번 실험의 웜이 감염된 기기의 연산 자원을 이용해 오픈웨이트 대형언어모델을 실행하고 다음 표적에 맞춘 공격 논리를 생성할 수 있다고 설명했다. 연구진은 실험이 외부와 분리된 통제 환경에서 수행됐다고 밝혔다.

연구진은 리눅스, 윈도, 사물인터넷 기기가 포함된 실험 네트워크에서 웜이 알려진 기업 네트워크 취약점과 설정 오류를 활용해 확산하는 양상을 관찰했다고 보고했다. 논문 초록은 감염이 늘어날수록 공격자가 부담하는 추가 비용이 0에 가까워지는 경제적 비대칭이 생긴다고 지적했다.

토론토대 발표는 이번 연구가 고성능 상용 AI 플랫폼에 의존하지 않아 중앙화된 안전장치나 서비스 거부, rate limit만으로는 대응이 어렵다는 점을 강조했다. 다만 이번 결과는 사전공개 논문과 통제 실험에 기반한 것으로, 실제 인터넷 환경에서 동일한 수준의 전파가 확인된 것은 아니다.

보안 측면에서는 패치 적용, 강한 인증, 다중인증, 네트워크 분리와 같은 기본 방어가 더 중요해졌다는 해석이 나온다. 특히 연구진은 AI 기반 공격을 먼저 이해하고 탐지·방어 기술을 개발하기 위한 공개라고 설명했다.

출처: arXiv 논문 "AI Agents Enable Adaptive Computer Worms", https://arxiv.org/abs/2606.03811
출처: University of Toronto Engineering News "U of T researchers demonstrate AI worm could target any online device", https://news.engineering.utoronto.ca/u-of-t-researchers-demonstrate-ai-worm-could-target-any-online-device/