구글, LLM 접근권 탈취·재판매 경고…피해 기업 요금 100만달러 육박

구글 위협 인텔리전스 그룹(GTIG)은 3일 공개한 공식 위협 분석에서 기업의 AI 모델 접근권을 가로채는 ‘LLM재킹(LLMJacking)’ 사례를 소개했다. 맨디언트가 2026년 대응한 여러 침해사고를 바탕으로 한 보고서다. 피해 업종은 금융·유통·기술·운송에 걸쳤으며, 지역도 북미·남미·아시아태평양으로 퍼져 있었다.

공격자는 피해 기업의 API 사용 권한을 확보한 뒤 모델을 대량 호출하거나 다른 이용자에게 접근권을 팔았다. 보고서에 따르면 개별 사고에서 하루에 10만달러를 넘는 부정 사용료가 발생했고, 일부 조직의 누적 청구액은 접근 차단 전 100만달러에 이르렀다. 이는 조사 대상 사례의 수치로, 전체 피해 규모를 집계한 금액은 아니다.

GTIG가 확인한 한 공격자는 훔친 제3자 API 키로 8시간 미만에 50만건 넘는 LLM API 호출을 실행했다. 해당 키는 ‘Jet Night’라는 토큰 중계 서비스에 쓰였으며, 피해 조직에 전가된 토큰 비용은 100만달러에 육박했다. 구글은 이 서비스의 낮은 판매 가격 등을 근거로 탈취한 키에 의존해 수익을 내는 것으로 판단했다.

침입 경로는 AI 서비스 화면보다 기업의 클라우드 인증 체계에 집중됐다. 노출되거나 탈취된 IAM 자격증명, 서비스 계정 키, 깃허브 개인용 접근 토큰, 활성 세션 토큰이 주요 진입점이었다. 공개 코드 저장소에서 기업의 LLM API 키를 수집한 뒤 토큰 한 개만 요청하는 방식으로 유효성을 조용히 확인한 사례도 있었다.

일단 내부에 들어온 공격자는 코드 저장소와 클라우드 비밀정보 저장소를 뒤져 추가 자격증명을 확보했다. 권한이 넓은 서비스 계정을 악용하거나 새로운 계정을 만들어 접근을 유지하기도 했다. 구글은 일부 피해 환경에서는 침입 당시 LLM 서비스가 활성화돼 있지 않았지만, 공격자가 탈취한 권한으로 서비스를 켜고 비용을 발생시켰다고 설명했다.

접근권을 훔치는 조직과 이를 돈으로 바꾸는 운영자가 역할을 나누는 정황도 포착됐다. 보고서가 ‘LLM 믹서’라고 부른 중계 인프라는 무단 확보한 여러 계정의 접근권을 모아 요청을 분산하고 이용량을 계량해 재판매했다. 기업이 부담하는 AI 사용 한도가 다른 이용자의 서비스 공급원으로 바뀌는 구조다.

구글은 클라우드 계정과 서비스에서 승인하지 않은 변경이나 LLM 기능 활성화가 나타나면 중요한 보안 사건으로 다뤄야 한다고 권고했다. 키 교체와 중앙 비밀정보 관리, 최소권한 적용, 코드 내 비밀정보 탐지와 함께 모델별 API 할당량과 예산 알림을 설정하도록 제안했다. 모델 중계 게이트웨이의 취약점 패치, 비정상적인 소량 검증 요청에 대한 로그 감시도 대응 항목에 포함됐다.

이번 분석은 AI 보안을 답변 내용이나 프롬프트 통제에만 한정하기 어렵다는 점을 보여준다. 모델을 호출할 수 있는 클라우드 권한과 과금 경로까지 함께 관리해야, 탈취한 계정이 짧은 시간에 대규모 사용료로 이어지는 상황을 줄일 수 있다.

출처: 구글 위협 인텔리전스 그룹·맨디언트 공식 위협 분석, The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources https://cloud.google.com/blog/topics/threat-intelligence/llmjacking-monetizing-compromised-cloud-models/