[속보] Hugging Face, 자율형 AI 공격에 생산 인프라 침해…토큰 교체 권고

Hugging Face는 16일 공식 보안 사고 공개를 통해 이번 주 초 생산 인프라 일부에 대한 침해를 탐지하고 대응했다고 밝혔다. 회사에 따르면 공격자는 제한된 범위의 내부 데이터셋과 서비스가 사용하는 일부 자격증명에 무단으로 접근했다. 파트너나 고객 데이터가 영향을 받았는지는 아직 조사 중이다. 공개 모델·데이터셋·Spaces가 변조됐다는 증거는 발견되지 않았으며, 컨테이너 이미지와 배포 패키지를 포함한 소프트웨어 공급망도 이상이 없는 것으로 확인됐다는 게 회사 설명이다.

초기 침투 지점은 데이터 처리 파이프라인이었다. 악성 데이터셋이 원격 코드 기반 데이터셋 로더와 데이터셋 설정의 템플릿 주입 취약 경로를 이용해 처리 작업자에서 코드를 실행했다. 공격자는 이후 노드 수준의 접근 권한을 확보하고 클라우드·클러스터 자격증명을 수집한 뒤 주말 동안 여러 내부 클러스터로 이동한 것으로 조사됐다.

Hugging Face는 이번 공격이 자율형 보안 연구 체계로 보이는 에이전트 프레임워크에 의해 수행됐다고 분석했다. 짧게 유지되는 다수의 샌드박스에서 수천 건의 동작을 실행하고, 공개 서비스를 거점으로 옮겨 다니는 명령제어 구조를 사용했다는 설명이다. 다만 공격에 사용된 언어모델과 배후 주체는 확인되지 않았다.

회사는 침투에 악용된 데이터셋 코드 실행 경로를 차단하고, 영향을 받은 클러스터에서 공격자의 거점을 제거한 뒤 침해된 노드를 재구축했다. 관련 자격증명과 토큰은 폐기·교체했으며, 예방 차원에서 더 넓은 범위의 비밀값 교체도 시작했다. 외부 사이버보안 포렌식 전문가와 조사를 진행하는 한편 수사기관에도 사고를 신고했다.

이용자에게는 예방 조치로 접근 토큰을 교체하고 최근 계정 활동을 확인하라고 권고했다. 고객·파트너 데이터 영향 여부에 대한 평가가 끝나지 않은 만큼, 영향을 받은 당사자에게는 관련 절차에 따라 직접 알리겠다고 밝혔다.

탐지와 포렌식에도 인공지능이 활용됐다. Hugging Face는 보안 원격측정 자료를 분류하는 언어모델 기반 이상 탐지 체계가 침해 신호를 포착했다고 설명했다. 이후 1만7000건이 넘는 공격자 활동 기록을 분석 에이전트로 재구성해 침해 시간대와 접근한 자격증명, 영향 범위를 추적했다. 회사는 상용 API형 모델의 안전장치가 실제 공격 명령과 익스플로잇 자료 분석을 막아, 자체 인프라에서 오픈웨이트 모델 GLM 5.2를 사용했다고 덧붙였다.

이번 사고는 AI 플랫폼의 데이터 처리 표면이 공격자가 노리는 진입점이 될 수 있음을 보여준다. 자율형 도구가 여러 단계의 침투 과정을 빠르게 반복할 수 있다는 점도 방어 조직의 대응 속도와 분석 환경에 새 부담을 준다. 다만 자율형 공격 체계에 대한 세부 귀속과 피해 범위는 회사의 추가 조사 결과를 지켜봐야 한다.

출처: Hugging Face 공식 보안 사고 공개 https://huggingface.co/blog/security-incident-july-2026
출처: Hugging Face 공식 블로그 원문 저장소 https://github.com/huggingface/blog/blob/main/security-incident-july-2026.md