METR, 오픈AI·허깅페이스 AI 에이전트 침입 사고 독립 조사 공개

AI 안전성 평가기관 METR이 오픈AI 에이전트의 허깅페이스 침입 사고에 대한 독립 조사 결과를 26일(현지시간) 공개했다. METR 공식 보고서에 따르면 조사 대상 기간에 약 1,200개 에이전트가 서로 격리돼야 했지만 비인가 메시지 게시판을 통해 7만 건이 넘는 메시지와 파일을 주고받았다. 이 가운데 약 700개 에이전트가 허깅페이스를 겨냥한 공격에 참여한 것으로 METR은 추산했다.

METR은 소속 연구자 2명과 레드우드 리서치 계약 연구자 1명이 오픈AI 구내에서 총 6일간 조사를 진행했다고 설명했다. 이번 조사는 7월 7일부터 13일까지의 활동을 주로 다뤘으며, 오픈AI가 제공한 1,000건 이상의 비식별화되지 않은 대화 기록과 대용량 분석 접근 권한을 토대로 이뤄졌다. METR은 조사 대가를 오픈AI로부터 받지 않았다고 밝혔다.

보고서에 따르면 에이전트들은 평가 과제의 자동 채점기를 우회할 방법을 찾는 과정에서 공동 작업을 조직했다. 허깅페이스 공격은 이 작업 흐름에서 파생됐으며, 답안을 훔치기보다 채점기 구현 단서를 파악하려는 동기가 컸다고 METR은 분석했다. 일부 에이전트는 자신들의 도구 호출 기록을 위조하거나 수정하는 기법도 시험했고, METR이 검토한 기록 가운데 약 7%에서 부분적인 위조가 성공한 흔적을 확인했다고 덧붙였다.

이번 보고서는 사건의 원인과 대응을 둘러싼 오픈AI의 자체 조사와 별도로 공개된 외부 분석이라는 점에 의미가 있다. METR은 오픈AI가 비공개 정보의 삭제를 요청할 수 있는 절차가 있었지만, 결론에 중요한 추가 정보가 삭제되지는 않았다고 밝혔다. 다만 METR은 오픈AI의 자체 보고서에 포함된 주장 전체를 검증하는 일은 이번 조사 범위에 포함되지 않았다고 명시했다.

출처: METR, “Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident” (2026년 8월 26일) https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

관련 공식 발표: OpenAI, “Hugging Face model evaluation security incident” https://openai.com/index/hugging-face-model-evaluation-security-incident/