AI 검색 10곳 중 8곳, 연구진이 만든 가상 개념 인용

중국 푸단대 연구진이 AI 검색 서비스 10곳을 대상으로 진행한 실험에서 8곳이 연구진이 만든 가상 개념을 소개한 게시글을 일주일 안에 출처로 인용했다. 연구자 원문에 따르면, 모델 내부나 검색 색인에 접근하지 않고 일반 공개 플랫폼에 글을 올리는 것만으로 일부 콘텐츠가 AI 답변의 근거로 들어갔다.

연구진은 10월 8일 아카이브(arXiv)에 공개한 논문 ‘From Public Posts to AI-Search Citations: Measuring the Fragility of AI Search’에서 이 경로를 분석했다. 측정은 올해 3~4월에 이뤄졌다. 따라서 이번 수치는 공개 시점의 서비스 성능을 실시간으로 평가한 결과와는 구분해야 한다.

조사 대상은 챗GPT, 구글 AI, 퍼플렉시티, 그록과 더우바오, 딥시크, 키미, 큐원, 위안바오, 원신이다. 제품 비교, 기술 문서, 뉴스, 경험·의견 질문으로 수집한 인용 1만7211건은 6356개 도메인으로 이어졌다. 서비스별 상위 20개 도메인이 차지한 인용 비중은 20.5~70.8%였다.

연구진은 자주 인용되는 도메인과 연결된 게시 플랫폼 22곳에서 새 계정으로 글을 올릴 수 있는지도 시험했다. 이 중 15곳은 계정 생성과 게시 양쪽의 진입 장벽이 낮거나 중간 수준으로 분류됐다. 이는 해당 사이트의 모든 글이 부정확하다는 뜻이 아니라, AI가 자주 선택하는 출처에 일반 이용자도 콘텐츠를 넣을 수 있다는 의미다.

이후 연구진은 앞선 측정에서 자주 인용된 플랫폼 9곳에 가상 개념, 의견, 가상 제품을 주제로 게시글 27건을 올렸다. 글마다 고유한 표현이나 수치를 넣어 이후 답변에 등장하는지 추적했다. 가상 개념을 다룬 글은 10개 AI 서비스 중 8곳에서 인용됐지만, 의견과 가상 제품 주제에서는 각각 3곳에서 인용이 관찰됐다.

게시 후 첫 일주일 동안 세 주제를 합쳐 수집한 답변 1004건 가운데 연구진의 게시글을 인용한 비율은 17.5%였다. 추적용 표현이 답변 본문에 나타난 비율은 7.5%였다. 서비스가 게시글을 출처로 제시하는 것과 그 글의 특정 주장을 답변에 옮기는 것은 서로 다른 현상이다. ‘10곳 중 8곳’이라는 결과도 전체 답변의 80%가 잘못됐다는 뜻은 아니다.

AI 답변 노출을 높이는 생성형 엔진 최적화(GEO) 서비스의 실제 작동 사례도 확인했다. 연구진이 14달러짜리 서비스를 한 차례 구매하자 업체는 28분 안에 공개 게시글 13건을 제공했다. 게시 완료 후 한 시간 안에 더우바오가 그중 한 글을 인용하고 추적용 표현을 답변에 포함했다. 다만 업체 한 곳, 주제 하나에 대한 사례이므로 GEO 시장 전체의 성공률로 일반화할 수는 없다.

논문이 다룬 것은 모델 해킹이나 프롬프트 주입이 아니라, 웹 게시물의 심사와 AI 검색의 출처 선택이 서로 다른 시스템에서 이뤄질 때 생기는 검증의 빈틈이다. 연구진은 출처의 게시 경로, 특정 도메인에 대한 인용 집중, 짧은 시간에 여러 플랫폼에 올라오는 유사 게시글 등을 함께 살펴볼 필요가 있다고 제안했다. 이 대응책의 효과는 이번 연구에서 시험하지 않았다.

연구진은 상당수 실험이 기존 자료가 적거나 경쟁이 낮은 주제로 설계됐으며, 플랫폼 업데이트에 따라 수치가 달라질 수 있다고 밝혔다. 이번 결과는 공개 게시글이 AI 답변의 인용과 내용에 영향을 미칠 수 있는 경로를 보여준다. 임의의 답변이나 추천 순위를 언제나 조작할 수 있음을 입증한 것은 아니다.

출처: 푸단대 연구진 논문, arXiv https://arxiv.org/abs/2610.11932
연구자 논문 원문 https://arxiv.org/html/2610.11932v1