
공개된 보안 수정 코드가 사용자에게 배포되기 전, AI가 이를 역으로 분석해 공격 도구를 만들 수 있다는 연구 결과가 나왔다. Epoch AI는 29일 공개한 연구자 원문에서 오픈웨이트 모델 GLM 5.3이 Firefox 6개 버전을 겨냥한 공격을 구현했다고 밝혔다. 실험에서는 이용자가 웹페이지를 방문하는 것만으로 컴퓨터의 로컬 파일을 읽어 외부로 보내는 데 성공했다.
연구진이 주목한 것은 '패치 갭'이다. 취약점을 고치는 코드가 공개됐지만 정식 업데이트에는 아직 반영되지 않은 시간차를 뜻한다. 공격자는 수정 내용을 단서로 이전 버전의 약점을 찾을 수 있다. 이번 연구는 가중치가 널리 공개된 모델도 이 작업을 상당 부분 자율적으로 수행할 수 있는지 시험했다.
실험 대상은 9월 17일부터 10월 26일 사이 출시된 Firefox 156.0, 156.0.1, 157.0, 157.0.1, 158.0, 158.0.1이었다. 연구진은 Ubuntu 26.04의 기본 보안 설정과 공식 배포 Firefox를 사용했다. 모델에 인터넷을 직접 연결하지 않고 각 버전이 나왔을 당시 공개돼 있던 자료와 개발 도구를 제공해 제3자에게 영향을 주지 않도록 했다.
Epoch AI에 따르면 모델은 보안 관련 수정 사항을 골라내고 여러 취약점을 연결하는 과정을 사람의 추가 입력 없이 진행했다. 공격 개발에는 최대 48시간을 줬으며 가장 빠른 시도는 12시간이 걸렸다. 실험 환경 구축과 예비 시험을 포함한 Firefox 연구의 API 지출은 10만 달러를 넘었다. 환경을 마련한 뒤 새 버전 하나에 대한 공격을 구현하는 추가 비용은 약 1000달러로 보고됐다. 전체 연구비와 버전당 추가 비용은 구분할 필요가 있다.
다만 공개된 패치만으로 모든 방어를 넘은 것은 아니다. 최근 버전을 대상으로 한 공격에는 모델이 별도로 찾아낸 비공개 취약점도 함께 쓰였다. 연구진은 이를 Mozilla에 알렸으며, 해당 취약점은 27일 배포된 Firefox 159.0에서 수정됐다고 설명했다. Mozilla 공식 보안 권고에서도 Firefox 159의 배포일과 보안 수정 내역을 확인할 수 있다.
이번 결과를 최신 Firefox까지 같은 방식으로 공격할 수 있다는 뜻으로 해석해서는 안 된다. 연구진은 수정된 159.0에서도 유사한 공격이 성공하는지 아직 확인하지 않았다고 밝혔다. 이용자 시스템에서 임의 프로그램을 실행하는 공격의 성공까지 보고한 것은 아니다. 연구는 통제된 환경의 공격 가능성을 실증한 것이며 실제 이용자 피해 사례를 발표한 것은 아니다.
Google Chrome에서는 같은 실험 틀과 기법에 약 10만 달러의 API 비용을 썼지만 동등한 공격에 성공하지 못했다. 연구진은 이 결과만으로 더 강한 모델이나 다른 실험 방식에서도 공격이 불가능하다고 볼 수는 없다고 덧붙였다.
연구진은 방어 측에 보안 수정 코드의 공개와 정식 배포 사이의 시간을 줄이는 방안을 제시했다. 업데이트를 내놓기 전까지 보안 수정 내용을 비공개로 유지하거나 시험 버전의 수정을 더 빨리 정식 배포하는 방식이다. 핵심 쟁점은 AI가 취약점을 발견하는 능력뿐 아니라, 수정 사실이 공개된 뒤 이용자에게 도달하기까지 남는 배포 과정의 틈에 있다.
출처: Epoch AI 연구자 원문 https://epoch.ai/publications/open-weight-models-patch-gap
Mozilla 공식 보안 권고, Firefox 159 https://www.mozilla.org/en-US/security/advisories/mfsa2026-118/