구글 레드팀, 에이전트 공격 시뮬레이션으로 전환해야

구글 보안 블로그는 13일(현지시간) AI 에이전트가 사이버공격의 규모와 속도를 바꾸는 환경에 맞춰 레드팀의 역할도 진화해야 한다고 제안했다. 공격자가 에이전트를 활용하는 상황을 가정해, 방어 조직이 자체 레드팀 에이전트로 공격 기법을 시뮬레이션해야 한다는 내용이다.

글을 쓴 구글 보안팀의 다니엘 파비안은 에이전트가 공격자의 능력을 세 방향에서 키울 수 있다고 봤다. 전문성이 낮은 공격자도 취약점과 맞춤형 전술에 접근하기 쉬워지고, 사람의 개입 없이도 더 많은 공격을 병렬로 수행할 수 있으며, 침투 뒤 정찰과 내부 이동 속도도 빨라질 수 있다는 설명이다.

구글은 특히 랜섬웨어 운영자나 초기 접근 권한 브로커처럼 대량 공격을 벌이는 집단이 자동화를 채택할 유인이 크다고 분석했다. 반대로 표적 공격을 하는 집단은 예측하기 어려운 에이전트에 핵심 공격 단계를 맡기는 데 신중할 수 있다고 덧붙였다. 이는 공식 발표의 전망이며, 실제 위협 행위자의 활용 사례가 충분히 축적된 단계는 아니라고 구글은 전제했다.

제안의 핵심은 레드팀이 완전 자율형 시스템을 한 번에 구축하기보다, 기존 모의훈련의 정찰·초기 침투·내부 이동 같은 개별 단계를 자동화해 모듈형 하위 에이전트로 쌓는 방식이다. 이를 오케스트레이터로 연결하면 실제 공격자가 개발할 수 있는 도구와 기법을 더 가깝게 재현할 수 있다는 것이다.

방어 조직에는 탐지와 대응의 시간차가 과제가 된다. 구글은 정상적인 업무용 AI 에이전트와 악성 에이전트의 활동을 구분할 수 있는지, 탐지 파이프라인이 충분히 실시간에 가까운지, 사람의 승인이 필요한 통제가 대응을 늦추지 않는지 점검해야 한다고 제시했다. AI 도입이 보안 운영의 자동화로 이어지는 만큼, 기업의 모의훈련도 공격 속도에 맞춰 설계할 필요가 있다는 메시지다.

출처: Google Security Blog https://blog.google/security/the-evolving-role-of-the-red-team-in-the-era-of-agentic-security/