가짜 통계 게시, LLM에서 인용당하다

(peec.ai)

Hacker News2026년 10월 20일AI 모델

가짜 통계 5만 개로 만든 웹사이트가 구글 검색에서는 퇴출되었으나 ChatGPT 등 AI 검색 엔진에는 여전히 인용되며 강력한 영향력을 미치고 있다는 사실은 생성형 AI 시대의 새로운 정보 신뢰성 위기와 GEO의 중요성을 시사합니다.

이 글의 핵심 포인트

1단돈 50달러로 5만 개의 허위 통계가 포함된 웹사이트를 하루 만에 구축함
2구글은 해당 사이트를 검색 결과에서 제외(deindexed)했으나, ChatGPT는 지속적으로 크롤링함
3최근 30일 동안 ChatGPT-User 에이전트에 의한 요청이 72,000건 이상 발생함
4Shopify, DHL 등 유명 브랜드가 해당 사이트의 허위 통계를 인용하여 330개 이상의 백링크가 생성됨
5AI 에이전트는 지식의 공백을 메우기 위해 통계와 같은 구조화된 데이터를 우선적으로 찾는 패턴을 보임

이 글에 대한 공공지능 분석

왜 중요한가?

전통적인 검색 엔진(SEO)과 AI 기반 검색(GEO)의 작동 방식 차이를 극명하게 보여줍니다. 구글은 허위 정보를 걸러냈지만, AI 에이전트는 지식의 공백을 메우기 위해 검증되지 않은 통계 데이터조차 적극적으로 인용하고 있다는 점이 핵심입니다.

어떤 배경과 맥락이 있나?

최근 LLM이 실시간 웹 검색을 통해 답변을 생성하는 'AI 에이전트' 기능이 강화되면서, 검색 엔진 최적화(SEO)를 넘어 생성형 엔진 최적화(GEO)라는 새로운 개념이 부상하고 있습니다. 이 실험은 AI가 신뢰할 수 있는 데이터를 찾기 위해 웹을 탐색하는 과정에서 발생하는 취약점을 드러냅니다.

업계에 어떤 영향을 주나?

콘텐츠 마케팅과 브랜드 전략에 있어 '인용 가능한 구조화된 데이터'의 가치가 급등할 것입니다. 동시에, AI가 생성한 허위 통계가 다시 웹상의 다른 사이트(Shopify, DHL 등)로 전파되어 생태계 전체의 정보 오염을 일으킬 수 있는 위험성을 경고합니다.

한국 시장에 어떤 시사점이 있나?

네이버의 HyperCLOVA X 등 한국형 LLM 생태계에서도 유사한 현상이 발생할 수 있습니다. 한국 스타트업들은 AI 검색 결과에 자사 브랜드가 올바르게 인용되도록 하는 전략과 함께, AI가 잘못된 정보를 학습하지 않도록 데이터의 신뢰성을 확보하는 기술적 방어 기제(Grounding) 구축에 집중해야 합니다.

이 글에 대한 큐레이터 의견

이 실험은 'Post-SEO' 시대의 창업자들에게 매우 강력한 메시지를 던집니다. AI 에이전트는 구조화된 숫자와 통계에 매우 취약하며, 이를 활용해 단기간에 막대한 백링크와 트래픽을 확보할 수 있는 'GEO 전략'의 가능성을 보여주었습니다. 데이터의 형식을 최적화하여 AI가 인용하기 좋은 형태로 콘텐츠를 배치하는 것은 새로운 마케팅 기회가 될 수 있습니다.

하지만 여기에는 치명적인 트레이드오프가 존재합니다. 실험자가 보여준 것처럼 허위 데이터를 이용한 트래픽 확보는 단기적인 성과를 낼 수 있으나, 데이터의 진위가 밝혀지는 순간 브랜드의 신뢰도는 회복 불가능한 타격을 입게 됩니다. 특히 글로벌 기업(Shopify, DHL 등)이 인용한 사례처럼, 잘못된 정보의 확산은 생태계 전체의 신뢰를 무너뜨리는 '정보 오염'의 주범이 됩니다.

따라서 스타트업 창업자들은 AI가 인용하기 좋은 '구조화된 데이터'를 구축하되, 그 내용은 반드시 '검증 가능한 진실'이어야 한다는 원칙을 지켜야 합니다. AI 에이전트에게 인용될 수 있는 '데이터의 형태'를 설계하는 기술과, 그 데이터의 '진실성'을 증명하는 기술(Verifiability)을 동시에 확보하는 것이 차세대 검색 시대의 핵심 경쟁력이 될 것입니다.

원문 보기 →