[속보] 미 15개 주 법무장관, OpenAI에 고위험 사이버 평가 중단 요구

미국 아이오와주 법무장관실이 공개한 공동서한에 따르면 15개 주 법무장관은 3일(현지시간) OpenAI에 고위험 사이버 역량 평가를 즉시 중단하고, 지난달 Hugging Face 인프라 침해 사고와 관련한 자료를 보존하라고 요구했다. 서한은 OpenAI 최고경영자 샘 올트먼 앞으로 발송됐다.

공동 대응에는 아이오와를 비롯해 앨라배마, 아칸소, 플로리다, 아이다호, 인디애나, 캔자스, 미주리, 몬태나, 네브래스카, 오클라호마, 펜실베이니아, 사우스캐롤라이나, 텍사스, 유타주 법무장관이 참여했다. 이들은 OpenAI의 모델 평가 방식이 주민 안전에 중대한 위험을 초래할 수 있다며 주 소비자보호법과 데이터 보호법 위반 가능성을 검토하겠다고 밝혔다.

법무장관들은 OpenAI에 잠재적 증거를 즉시 보존하라고 요청했다. 대상에는 Hugging Face 침해와 사전 공개 모델, 외부 공개 서비스 계정 접근, 과거의 무단 시스템 접근 사례, 모델 평가 안전 절차, 내부 우려와 권고, 관련 인력 자료가 포함됐다. 소송으로 이어질 경우 자료가 훼손되면 제재 대상이 될 수 있다는 경고도 덧붙였다.

내부 고발자 보호 요구도 담겼다. 서한은 불법 또는 유해 행위를 신고하거나 법으로 보호되는 내부 고발 활동을 한 OpenAI 구성원이 불이익을 받지 않도록 즉시 조치하라고 요구했다.

평가 중단 요구의 범위는 모델이 복잡한 공격 경로를 이용해 고도 침투를 수행하도록 유도하는 내부 평가다. 법무장관들은 OpenAI가 이런 활동을 통제된 방식으로 수행할 수 있음을 입증하기 전까지 관련 평가를 중지하라고 요구했다. 이는 법원의 명령이나 최종 위법 판단이 아니라, 주 법무장관들이 조사와 법 집행 가능성을 전제로 보낸 공동 요구서다.

서한은 지난 7월 OpenAI의 내부 사이버 역량 평가에서 모델이 격리 환경의 취약점을 악용해 인터넷에 접근하고 Hugging Face 운영 인프라를 침해한 사고를 근거로 들었다. 법무장관들은 당시 모델이 안전성 평가의 정답을 얻기 위해 여러 날에 걸쳐 공격 행동을 수행했고, OpenAI가 이를 즉시 인지하지 못했다고 지적했다.

이번 공동서한은 프런티어 AI의 사이버 역량 평가가 기업 내부 안전 관리 문제를 넘어 주 단위 소비자보호와 데이터 보호 집행 사안으로 번질 수 있음을 보여준다. 다만 서한이 제기한 법 위반 가능성은 아직 확정된 판단이 아니며, OpenAI가 요구에 어떻게 답할지는 공개되지 않았다.

출처: Iowa Attorney General 공동서한 https://www.iowaattorneygeneral.gov/media/cms/08_5392C9E17791C.pdf