보이는 문서와 AI가 읽는 문서가 다를 수 있다…OOXML 처리 경로 보안 경고

연구자 원문 분석에 따르면, 마이크로소프트 오피스에서 보이는 내용과 대형언어모델(LLM) 문서 처리 과정에서 추출되는 정보가 서로 달라질 수 있다는 연구 결과가 나왔다. 대상은 워드·엑셀·파워포인트에서 쓰이는 Office Open XML(OOXML) 문서다.

논문은 규격상 유효한 OOXML 파일 하나가 오피스 편집 화면과 LLM용 추출기에서 서로 다른 ‘증거’를 제공할 수 있다고 설명했다. 연구진은 이런 차이를 만드는 구조를 ‘증거 분기(evidence fork)’로 정의하고, 엑셀·워드·파워포인트 전반에서 21개 사례를 확인했다고 밝혔다.

연구진의 평가에서는 조사 대상 13개 문서 추출 도구가 적어도 하나의 분기에서 정보를 내보냈다. 문서에 화면에는 드러나지 않지만 추출 단계에서는 읽히는 업무 관련 정보를 넣어 시험한 결과, 네 개의 네이티브 문서 입력 LLM API는 해당 정보를 48~76%의 시행에서 응답에 포함했다. 11개 인터페이스 가운데 20개 분기에서는 적어도 하나가 이 정보를 반환했다.

이번 결과는 문서를 근거로 검색증강생성(RAG), 컴플라이언스 검토, 금융 분석을 수행하는 조직이 ‘사용자가 본 문서’와 ‘모델에 전달된 텍스트’가 일치하는지 별도로 점검해야 한다는 문제를 제기한다. 논문은 노출 양상이 모델 자체보다 문서 추출 경로와 추출기 설정의 영향을 크게 받는다고 분석했다.

출처: Side Liu 외, arXiv ‘Beyond the Editing Canvas: Evidence Divergence in OOXML-to-LLM Ingestion’ (https://arxiv.org/abs/2608.25880)