Google DeepMind, AI 에이전트 보안 로드맵 공개…“내부자 위협처럼 통제”

Google DeepMind 공식 블로그에 따르면 회사는 2026년 6월 18일 내부 AI 에이전트를 안전하게 배치하기 위한 ‘AI Control Roadmap’을 공개했다. 이 로드맵은 고도화되는 AI 에이전트를 항상 완전히 정렬된 시스템으로 가정하지 않고, 잠재적으로 예기치 않은 행동을 할 수 있는 주체로 보고 다층 방어 체계를 설계하는 데 초점을 맞췄다.

Google DeepMind는 에이전트가 사이버 방어, 과학적 발견, 제품 개발 등 복잡한 작업을 자율적으로 수행하면서 생산성을 높이고 있다고 설명했다. 동시에 이런 시스템이 내부 도구와 데이터, 실행 권한에 더 깊이 연결될수록 보안 방식도 달라져야 한다고 밝혔다. 회사는 기존의 샌드박싱, 엔드포인트 보안, 프롬프트 인젝션 저항성 같은 기본 통제 위에 모델 정렬과 시스템 수준의 감시·차단 체계를 함께 두는 방식을 제시했다.

로드맵의 핵심은 AI 에이전트를 전통적인 사이버보안의 ‘내부자 위협’과 유사하게 다루는 접근이다. Google DeepMind는 MITRE ATT&CK 프레임워크에서 착안해 AI 에이전트가 일으킬 수 있는 잠재적 전술과 기법을 분류하고, 탐지와 예방, 대응 절차를 단계적으로 마련하겠다고 밝혔다. 감시 체계에는 신뢰할 수 있는 다른 AI 시스템을 감독자로 활용해 작업 중인 에이전트의 추론, 행동, 계획을 검토하는 방식이 포함된다.

회사는 로드맵에서 에이전트의 능력 변화에 따라 방어 수준도 함께 높여야 한다고 강조했다. 현재는 모델의 가시적인 추론 과정을 모니터링할 수 있지만, 향후 모델이 감시를 인식하거나 불투명한 방식으로 추론할 경우 행동 분석과 내부 작동 방식에 대한 더 깊은 검사가 필요할 수 있다는 설명이다. 피해 가능성이 낮고 되돌릴 수 있는 작업에는 사후 검토와 빠른 복구가 가능하지만, 사이버 공격처럼 고위험 행동에는 실시간 차단 체계가 필요하다고도 밝혔다.

Google DeepMind는 내부 비동기 모니터링 시제품을 통해 코딩 에이전트 작업 100만 건을 분석했다고 공개했다. 이 분석은 단순 키워드 필터링을 넘어 행동 패턴을 파악하기 위한 것으로, Gemini Spark 에이전트의 실시간 모니터 구축에도 활용됐다고 설명했다. 다만 회사는 표시된 사건의 다수가 적대적 의도라기보다 사용자의 목표를 지나치게 적극적으로 달성하려는 오해나 과잉 행동에서 비롯된다고 덧붙였다.

이번 발표는 AI 에이전트 경쟁이 기능과 성능을 넘어 운영 통제와 감사 가능성으로 확장되고 있음을 보여준다. 기업이 에이전트에 더 많은 권한을 부여할수록 접근권한 관리, 행동 로그, 실시간 차단, 사고 대응 체계가 제품 선택의 핵심 기준으로 떠오를 가능성이 크다. Google DeepMind가 함께 공개한 정책 프레임워크 ‘Three Layers of Agent Security’도 개별 에이전트, 다중 에이전트 시스템, 디지털 생태계 차원의 보안 기준 마련을 강조한다.

출처: Google DeepMind 공식 블로그 https://deepmind.google/blog/securing-the-future-of-ai-agents/
출처: GDM AI Control Roadmap https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/securing-the-future-of-ai-agents/gdm-ai-control-roadmap.pdf
출처: Three Layers of Agent Security https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/securing-the-future-of-ai-agents/three-layers-of-agent-security.pdf