가짜 통계 5만 페이지를 올렸더니 ChatGPT와 논문, 은행 보고서가 인용했다

실험 방식

연구자는 시의성 높은 글을 쓰는 LLM이 지식의 빈틈을 메우려고 겉보기에 믿을 만한 통계를 찾는 패턴에 주목했다. 새 도메인에 GPT-4.1로 하루 만에 200개국의 SEO, 콘텐츠 마케팅, 소셜 미디어, 전자상거래, 웹 기술 통계 페이지 5만 개를 만들었다. 모든 수치를 지어냈고 하나도 검증하지 않았다. 프롬프트는 국가와 주제 목록에 문장 두 개를 덧붙인 수준이었고 기본 AI 웹 템플릿으로 게시했다. 초기 비용은 약 30달러, 목록형 글 1만 5,000개를 약 20달러에 추가해 총 50달러가 들었다.

결과

출시 직후 거의 모든 페이지가 일주일 안에 Google에 색인됐지만 이후 Google 업데이트 두 차례로 검색 노출이 급감해 수개월간 거의 없었다. 그런데도 ChatGPT의 조회는 이어졌다. 최근 30일 봇 요청 60만 건 가운데 ChatGPT-User 요청이 약 7만 2,000건이었고, 330개 이상의 도메인이 사이트에 링크했으며 Shopify, DHL, Bluehost도 포함됐다. 분석 도구에는 3월 이후 ChatGPT 유입 세션이 1만 건 넘게 잡혔다. 허위 수치는 학술 논문과 카타르 최대 금융그룹의 투자 리서치, 인도 경제 간행물, 캐나다 인플루언서 커뮤니티 보고서에도 등장했다. 권위 없는 가짜 수치가 신뢰받는 기관의 인용을 거치며 더 믿을 만해 보이는 ‘인용 세탁’이다. 반복 인용된 페이지가 훗날 모델의 학습 데이터에 들어갈 위험도 있지만 실제로 편입됐는지는 확인하지 않았다.

왜 이런 일이 생기나

ChatGPT는 구글 상위 10개를 그대로 복사하지 않고 프롬프트를 하위 질의(팬아웃)로 쪼개 검색 소스와 자체 캐시에서 후보를 가져와 재순위화하고 일부 페이지를 열어 근거로 쓴다. 구글에서 보이지 않는 페이지도 잘 조회될 수 있다. 재순위화 모델은 진실성보다 관련성을 보고, 수백만 사용자의 수십억 프롬프트에서 수치를 일일이 교차 검증하기는 비용이 너무 크다. 구체적인 숫자는 글에 새 정보를 더하는 인용하기 좋은 근거처럼 보이지만 구체성이 사실성은 아니다. 제목과 소제목, URL에 연도를 넣으면 최신성 신호도 준다.

후속 실험과 한계

연구팀은 출처를 확인한 실제 통계 페이지를 새로 공개했고 허위 데이터 없이도 링크를 얻었다. 검증 가능한 통계 페이지의 요령은 문장마다 주장 하나, 수치 옆에 출처와 연도, 팬아웃 질의에 맞춘 소제목, 갱신일 표시, 서버 렌더링 HTML 제공이다. 이 실험은 위험을 확인하려는 연구이며 가짜 콘텐츠 제작 지침이 아니라는 점을 연구자는 강조한다. 실험 사이트는 면책 고지를 달고 온라인에 남아 있고, 같은 효과가 계속된다는 보장은 없다.