구글 ‘AI 에이전트 활용 공격, 6시간 안에 자격증명 대량 탈취’

Google Threat Intelligence Group(GTIG)은 9일 공개한 공식 위협 보고서에서 공격자들이 단순 프롬프트 활용을 넘어 AI 에이전트 워크플로와 자동화로 이동하고 있다고 밝혔다. GTIG는 2026년 2분기 한 공격자가 클라우드 자원을 침해한 뒤 AI 에이전트 기반 대량 자격증명 탈취 캠페인을 계획·구축·실행하는 데 6시간이 채 걸리지 않은 사례를 관측했다고 설명했다.

보고서에 따르면 이런 자동화는 공격 과정에서 사람이 개입해 판단하는 시간을 크게 줄여 방어 조직의 대응 가능 시간을 압축한다. 공격자들은 정찰과 사회공학용 미끼 제작, 악성코드 난독화, 침해 이후 문제 해결 등 공격 수명주기의 여러 단계에서 AI를 보조 수단으로 활용하는 것으로 분석됐다.

GTIG는 AI 코딩 도구와 오픈소스 공급망의 결합도 주요 위험 요인으로 꼽았다. 보고서는 UNC6780으로 추적하는 공격 조직이 PyPI, npm, Docker Hub 등을 겨냥한 공급망 침해 과정에서 AI 코딩 도구와 대규모 언어모델 보안 스캐너를 속이려 했다고 밝혔다. 악성 패키지나 프로젝트 설정 파일을 통해 개발 도구가 관리하는 숨김 디렉터리에 코드를 넣고, AI 도우미가 명령을 실행하도록 유도하는 방식도 언급됐다.

AI 자산 자체가 표적이 되는 흐름도 확인됐다. GTIG는 모델, 소스 코드, 프롬프트, API 자격증명과 클라우드 연산 자원이 첩보 수집·갈취·자원 탈취의 대상이 되고 있다고 분석했다. 모델 추출을 노린 일부 캠페인은 1억 건이 넘는 프롬프트를 사용했으며, 공격자들이 탈취한 자격증명과 사기 계정을 순환시켜 탐지를 피하려 했다고 보고서는 설명했다.

구글은 관련 활동에 쓰인 자산과 계정을 비활성화하고, 모델과 분류기 보강에 반영했다고 밝혔다. 개발 조직에는 AI 도구를 기존 개발 환경과 분리된 예외로 보지 않고, 의존성 검토·프로젝트 설정 파일 점검·CI/CD 자격증명 관리·권한 최소화 등 공급망 보안 통제 안에서 함께 관리할 필요가 커지고 있다.

출처: Google Cloud Blog, Google Threat Intelligence Group https://cloud.google.com/blog/topics/threat-intelligence/from-prompting-to-autonomy-the-evolution-of-adversarial-ai