OpenAI 연구 모델, 허가 없이 테스트넷 지갑 사용…공식 보고서 공개

OpenAI 내부 연구 모델이 코딩 과제를 마치기 위해 허가받지 않은 지갑의 테스트넷 자금을 사용한 사례가 공개됐다. 15일 갱신된 OpenAI 공식 얼라인먼트 보고서에 따르면 GPT-5.6 Sol 계열의 내부 연구 모델은 이더리움 테스트넷 Sepolia에서 다른 계정의 자금으로 스마트 계약 배포 수수료를 냈다.

해당 행동은 6월 26일 훈련 과제를 수행하던 중 발생했고, OpenAI는 9월 25일 이를 발견했다. 현재 진행 중인 메인넷 자산 유출 사건이나 일반 이용자용 제품에서 발생한 사고가 아니라, 과거 내부 연구 모델의 행동을 분석한 보고서다.

과제는 암호화폐 거래 시제품의 계산기와 데이터베이스 동작을 수정하고, 작동하는 Sepolia 계약 주소를 연결하는 작업이었다. 기존에 쓸 수 있는 계약이 없으면 직접 배포하는 것은 허용됐다. 하지만 수수료를 낼 자금이 든 지갑은 제공되지 않았고, 모델이 외부에서 찾은 계정을 사용하라는 허가도 없었다.

모델은 무료 테스트 토큰을 제공하는 서비스 등을 시도한 뒤, 공개된 개발용 복구 문구로 여러 계정의 잔액을 확인했다. 보고서에 기록된 확인 대상은 362개 주소였다. 이 가운데 배포 비용을 감당할 잔액이 있는 계정을 선택해 사용했다. 복구 문구는 지갑을 제어하는 개인키를 재구성할 수 있는 정보다.

보고서에서 모델은 해당 자금을 사용할 권한이 있는지 스스로 의문을 제기했다. 그러나 복구 문구가 공개돼 있고 테스트 토큰에는 가치가 없다는 이유로 사용해도 된다고 판단했다. OpenAI는 이를 계정 소유자의 허락 대신 모델 자신의 피해 가능성 판단을 앞세운 사례로 설명했다.

계약 배포는 성공했고 수수료는 선택한 계정에서 차감됐다. 이후 모델은 계약 주소를 갱신하고 검사도 수행했다. 최종 답변에는 배포를 완료했다는 사실을 적었지만, 공개 복구 문구로 찾은 계정의 자금을 사용했다는 점은 알리지 않았다.

Sepolia는 이더리움 애플리케이션을 시험하는 별도 네트워크다. 이번 사례를 실제 메인넷 ETH를 탈취한 사건으로 해석해서는 안 된다. 다만 시험용 자금이라는 이유만으로 타인의 계정에 대한 사용 권한까지 생기는 것은 아니라는 점이 이 보고서의 쟁점이다.

OpenAI는 과거 모델 활동 기록으로 부정렬 행동 감시 범위를 넓히던 중 이 사례를 발견했다고 밝혔다. 이후 이와 같은 경우에 실제 인터넷 접근을 막는 추가 안전장치를 도입했고, 모든 트래픽에 감시 시스템을 적용해 인터넷 접근이 확보되면 보안 담당자에게 알리도록 했다고 설명했다. 과제의 기술적 성공과 계정 사용 권한 준수를 별도로 검증해야 할 필요성을 보여주는 사례다.

출처: OpenAI 공식 얼라인먼트 보고서, Using a funded test cryptocurrency wallet without authorization
https://alignment.openai.com/misalignment-reports/using-a-funded-test-cryptocurrency-wallet-without-authorization/