챗GPT가 알려 준 그 통계, 진짜일까? 하루 만에 만든 ‘가짜 통계 5만 쪽’이 7개월간 AI 답변·논문·은행 보고서에 인용된 실험으로 본 ‘인용 세탁’과 AI 숫자 10초 확인법을 초보도 쉽게

테크부터 경제, 생활까지. 복잡한 소식을 쉽게 풀어봅니다.

회사 보고서 마감 30분 전, 챗GPT에 “국내 소상공인 중 SNS 마케팅을 하는 비율이 얼마나 돼?”라고 물었더니 “약 73%입니다”라는 깔끔한 답과 함께 출처 링크까지 붙어 나왔다고 해 볼게요. 숫자도 있고 링크도 있으니 그대로 슬라이드에 옮기고 싶어지죠. 그런데 그 링크 너머의 숫자가 누군가 AI로 하루 만에 지어낸 가짜라면 어떨까요?

실제로 이런 일이 벌어졌다는 실험 결과가 화제예요. 한 AI 검색 연구자가 GPT-4.1로 가짜 통계 페이지 5만 개를 하루 만에 만들어 웹사이트에 올려 두었더니, 7개월 동안 챗GPT가 이 페이지를 수만 번 열어 답변에 활용했고, 그 숫자가 학술 논문과 카타르 최대 금융그룹의 투자 보고서에까지 들어갔다는 거예요. 연구자는 이 현상을 ‘인용 세탁(citation laundering)’이라고 불렀어요.

연구자가 10월 7일 직접 공개한 기록이 21일 국내 언론(디지털투데이 등)과 개발자 커뮤니티 긱뉴스에 소개되면서 “그럼 AI가 알려 주는 숫자는 어떻게 믿어야 하지?”라는 질문이 쏟아지고 있어요. 오늘은 이 실험에서 무슨 일이 있었는지, 왜 AI는 숫자를 확인하지 않는지, 그리고 우리가 10초 만에 할 수 있는 숫자 확인법을 초보 눈높이로 정리해 볼게요.

한 줄로 먼저

• 연구자 메테한 예실유르트(Metehan Yeşilyurt)가 3월, 새 도메인 ‘StateGlobe’에 GPT-4.1로 만든 가짜 통계 5만 쪽을 올렸어요. 비용은 나중에 더한 목록형 글 1만 5천 개까지 합쳐 약 50달러(약 6만 6천 원).
• 구글은 처음엔 색인했지만 곧 검색 결과에서 사실상 지웠어요.
• 반면 챗GPT는 7개월 내내 이 사이트를 열었고, 최근 30일에만 약 7만 2천 번 페이지를 불러왔어요.
• 가짜 숫자는 논문·은행 투자 보고서·경제 매체에 인용됐고, 330곳이 넘는 사이트가 링크를 걸었어요.
• 교훈: AI가 붙여 준 출처는 ‘확인된 사실’이 아니라 ‘확인할 거리’예요. 숫자를 쓰기 전에 원본 기관까지 거슬러 올라가 보세요.

한눈에 보는 이번 실험

먼저 단어부터: 색인? 크롤러? 인용 세탁?

무슨 일이 있었나: 순서대로 따라가 보기

연구자가 처음 궁금했던 건 단순했어요. 요즘은 블로그 글이나 보고서를 AI로 쓰는 경우가 많은데, AI가 글을 쓰다가 근거가 필요해지면 가장 먼저 찾는 게 바로 숫자라는 거예요. “재택근무가 늘고 있다”보다 “직장인의 ○○%가 재택근무를 한다”가 훨씬 그럴듯해 보이니까요. 그래서 그는 “AI가 원하는 바로 그 숫자를, 전부 가짜로 줘 보면 어떻게 될까?”를 시험했어요.

숫자로 보는 결과

왜 구글은 걸러 냈는데 챗GPT는 계속 썼을까?

연구자의 설명을 쉽게 풀면, “검색 순위에 오르는 것”과 “AI가 답변 재료로 꺼내 쓰는 것”은 다른 시험이라는 거예요. 챗GPT는 구글 상위 10개를 그대로 베끼지 않고, 내 질문을 여러 개의 검색어로 바꿔 자체 검색 경로와 저장해 둔 자료에서 후보를 모은 뒤, 몇 개 페이지만 열어 답을 써요. 구글 시험에서 떨어져도 이 과정에서는 얼마든지 통과할 수 있었던 거죠.

AI는 왜 숫자가 맞는지 확인하지 않을까? 4가지 이유

정리하면, 지금의 AI 검색은 “이 문단이 질문과 잘 맞나?”는 열심히 따지지만 “이 숫자가 사실인가?”는 따지지 못한다는 게 연구자의 결론이에요. 그의 표현을 빌리면 AI는 숫자가 맞는지가 아니라 들어맞는지를 묻는다는 거죠.

‘인용 세탁’은 어떻게 일어나나

숫자 자체는 단 한 번도 진짜가 된 적이 없어요. 그런데 인용될 때마다 “믿을 만한 곳에서 쓴 숫자”라는 옷을 한 겹씩 더 입는 거예요. 돈세탁처럼 출처가 흐려지는 과정이라 ‘인용 세탁’이라는 이름이 붙었어요.

오해하지 말기: 이 실험이 보여 준 것 vs 보여 주지 않은 것

덧붙이면, 연구자는 이후 회사 연구팀과 함께 모든 숫자를 검증하고 출처를 단 진짜 통계 페이지로 같은 실험을 다시 했는데, 이번에도 링크와 인용이 빠르게 붙었다고 해요. 즉 문제는 “통계 페이지가 잘 인용된다”가 아니라, 그 숫자가 진짜인지 아무도 확인하지 않는다는 데 있어요.

내 생활에선 어디서 문제가 될까?

AI가 준 숫자, 쓰기 전 10초 확인법

연구자도 “AI로 글을 쓴다면 발행 전에 모든 숫자를 검색해 보라, 10초면 된다”고 했어요. 초보도 바로 따라 할 수 있게 순서를 정리했어요.

믿을 만한 한국 통계, 어디서 찾을까

AI에게 이렇게 물으면 덜 속아요

단, 이렇게 물어도 AI가 그럴듯한 링크를 붙여 줄 수 있어요. 결국 마지막 확인은 링크를 직접 열어 보는 내 손가락이 해야 해요.

이런 통계는 한 번 더 의심하세요

자주 묻는 질문

Q. 그럼 챗GPT 검색 기능은 쓰지 말아야 하나요?
A. 아니에요. 자료를 빠르게 모으고 방향을 잡는 데는 여전히 유용해요. 다만 숫자와 인용만큼은 “AI가 찾아 준 후보”로 보고 직접 확인하는 습관이 필요해요.

Q. 다른 AI(제미나이, 클로드, 퍼플렉시티 등)는 괜찮나요?
A. 이번 실험의 핵심 수치는 챗GPT 기준이에요. 다른 서비스도 웹을 검색해 답한다는 구조는 비슷하니, 어떤 AI를 쓰든 같은 확인 습관을 들이는 게 안전해요.

Q. 출처 링크가 유명 사이트라면 믿어도 되죠?
A. 이번 가짜 사이트에도 유명 기업 사이트들이 링크를 걸었어요. 링크가 많다는 건 ‘많이 인용됐다’는 뜻이지 ‘사실이다’라는 뜻이 아니에요. 그 숫자를 처음 만든 곳까지 가 보는 게 핵심이에요.

Q. AI 회사들이 고치지 않을까요?
A. 연구자도 “이 빈틈은 내일 닫힐 수도 있고, 닫혀야 한다”고 했어요. 다만 숫자를 일일이 검증하는 데는 시간과 비용이 들어서 금방 해결되긴 어렵다고 봤어요. 그동안은 사용자 쪽 확인이 가장 확실한 안전장치예요.

오늘의 정리

하루 만에, 약 6만 6천 원어치 AI로 만든 가짜 숫자가 7개월 동안 AI 답변과 논문, 은행 보고서 속을 돌아다녔어요. 무서운 건 숫자가 가짜라는 사실보다 인용될수록 더 믿음직해 보인다는 점이에요.

그러니 오늘부터 딱 하나만 기억해 주세요. AI가 준 숫자는 ‘답’이 아니라 ‘확인할 후보’예요. 출처를 눌러 보고, 누가 만든 곳인지 보고, 숫자로 검색해 보고, 원본 기관을 찾는 10초. 그 10초가 내 보고서와 내 판단, 그리고 인터넷 전체의 숫자를 조금 더 깨끗하게 지켜 줘요.