삭제한 로컬 AI 대화, 메모리에 흔적 남았다…조지아공대 복구 연구

조지아공대 연구진이 안드로이드 스마트폰에서 실행되는 로컬 AI 앱의 삭제된 대화와 문맥을 메모리에서 복구하는 도구 ORISA를 선보였다. 조지아공대가 지난 13일 공개한 공식 연구 소식에 따르면, 앱 화면에서 대화를 삭제해도 실행 중인 프로세스의 메모리에 남은 정보로 대화 세션을 다시 구성할 수 있었다.

로컬 AI는 대화를 클라우드 서버로 보내지 않고 기기 안에서 처리한다. 외부 전송을 줄일 수 있지만, 대화 기록을 지우는 기능이 작업 메모리에 남은 정보까지 모두 없앤다는 뜻은 아니다. 연구진은 화면에서 삭제된 대화의 흔적이 새 정보로 덮어써지기 전까지 남을 수 있다는 점에 주목했다.

ORISA는 프로세스 메모리에서 대화를 구성하는 토큰과 KV 캐시를 찾아낸다. 토큰은 텍스트를 모델이 처리하는 단위이고, KV 캐시는 앞서 처리한 내용의 문맥을 이어가기 위한 내부 데이터다. 연구진은 두 정보를 함께 복구해 단순히 대화문을 읽는 데 그치지 않고, 복원한 문맥으로 질문에 응답하는 세션을 만들었다.

논문에 따르면 주 평가에는 llama.cpp 추론 엔진을 사용하는 안드로이드 앱 10개와 Llama 3.2, Qwen 2.5, Gemma 2 등 모델 3개가 쓰였다. 60개 세션 설정에서 현재 문맥 창 안의 토큰과 KV 캐시를 모두 복구했다. 이는 해당 실험에서 메모리에 남아 있던 활성 문맥의 결과이며, 모든 삭제 대화 전체를 복구했다는 의미는 아니다.

별도의 ChatterUI 사례에서는 가상의 프로젝트 정보 100개를 입력한 뒤 대화를 삭제했다. 복구한 세션에 앞서 전달한 정보를 나열하도록 하자 26개를 반환했다. 기존 세션의 활성 문맥에 남아 있던 정보는 14개였다. 모델이 더는 적극적으로 참조하지 않는 문맥 일부도 메모리에서 되살릴 수 있음을 보여준 사례다.

복구에는 조건이 따른다. 연구의 위협 모델은 기기를 확보한 시점에도 AI 앱 프로세스가 실행 중인 상황을 전제로 한다. ORISA 자체가 잠긴 스마트폰의 보안을 풀거나 원격으로 대화를 가져오는 도구는 아니다. 분석에 쓸 메모리 이미지와 디스크 이미지를 먼저 확보해야 하며, 다른 작업이 메모리를 덮어쓰면 복구는 어려워진다. 주 평가는 루팅한 Pixel 6에서 안드로이드 15를 실행해 진행했다.

복원된 세션의 답변을 원래 사용자의 발언과 동일하게 취급해서도 안 된다. 연구진은 논문의 윤리 검토에서 후속 질문이 사용자의 과거 상호작용보다 조사자의 질문에 영향을 받은 응답을 만들 수 있다고 지적했다. 새로 생성한 답변을 과잉 해석하거나 사용자에게 불리한 증거로 잘못 사용하는 일을 경계해야 한다는 설명이다.

이번 소식은 실제 개인정보 유출 사고 보고가 아니라 로컬 AI의 데이터 잔존성을 다룬 연구 소개다. 해당 논문은 올해 5월 IEEE 보안·프라이버시 심포지엄에서 발표됐고 7월 IEEE Xplore에 등록됐다. 클라우드 전송 여부와 별개로, 기기 안의 대화 삭제 기능도 실행 중 문맥과 메모리 관리까지 함께 살펴야 한다는 점을 드러냈다.

출처: 조지아공대 공식 연구 소식 https://news.research.gatech.edu/2026/10/13/deleted-ai-chats-may-leave-clues-behind · CyFI 연구실 논문 https://cyfi.ece.gatech.edu/publications/xu2026recovering.pdf · IEEE Xplore https://ieeexplore.ieee.org/abstract/document/11573549 · 연구팀 ORISA 저장소 https://github.com/CyFI-Lab-Public/ORISA