ChatGPT와 Gemini가 가짜 고객센터 번호를 안내하도록 만드는 사기 수법
(news.hada.io)
ChatGPT와 Gemini 등 생성형 AI가 가짜 고객센터 번호를 안내하도록 웹상의 정보를 조작하는 GEO 공격이 발견되어, 기업의 브랜드 신뢰도와 고객 안전을 위협하는 새로운 보안 위협으로 부상하고 있습니다.
이 글의 핵심 포인트
- 1GEO(Generative Engine Optimization)를 악용해 AI가 가짜 고객센터 번호를 정상 정보로 안내하도록 유도하는 공격 발견
- 2항공사, 은행 등 374개 기업을 사칭한 공격과 수만 개의 악성 페이지 탐지
- 3전화번호 사이에 공백, 이모지 등을 삽입하여 스팸 필터를 우회하면서도 AI는 인식할 수 있게 하는 정교한 수법 사용
- 4자동화된 게시물 생성과 웹 아카이브(archive.org)의 존재로 인해 단순 페이지 삭제만으로는 대응이 매우 어려움
- 5Google과 OpenAI는 해당 공격을 기존 버그바운티 범위 밖이거나 재현 불가로 분류하여 대응의 사각지대 존재
이 글에 대한 공공지능 분석
왜 중요한가?
AI가 웹 정보를 무비판적으로 수집하여 답변을 생성하는 구조적 취약점을 공격자가 이용하고 있기 때문입니다. 이는 단순한 스팸을 넘어 기업의 고객 접점을 가로채고 금전적 피해를 입히는 정교한 사회공학적 공격으로 진화하고 있습니다.
어떤 배경과 맥락이 있나?
검색 엔진 최적화(SEO)를 넘어 AI 답변에 인용되도록 콘텐츠를 최적화하는 GEO 기술이 등장하면서, 정보의 신뢰도를 조작하려는 시도가 기술적으로 가능해진 환경이 배경입니다. 특히 사용자의 92%가 AI 답변을 검증하지 않는다는 연구 결과는 이 공격의 파괴력을 뒷받침합니다.
업계에 어떤 영향을 주나?
고객 서비스를 운영하는 기업들은 브랜드 신뢰도 하락과 직접적인 매출 손실, 그리고 대규모 고객 분쟁 처리라는 막대한 비용 부담을 안게 될 위험이 있습니다. 또한, AI 에이전트가 웹을 탐색하는 시대에는 정보의 오염이 곧 서비스의 오염으로 직결됩니다.
한국 시장에 어떤 시사점이 있나?
글로벌 플랫폼을 이용하는 국내 기업들도 동일한 타겟이 될 수 있으며, AI 기반 고객 응대 솔루션을 도입하거나 운영하는 스타트업들은 데이터 오염에 대비한 자체적인 정보 검증 로직과 인증 프로세스를 반드시 고려해야 합니다.
이 글에 대한 큐레이터 의견
이번 사례는 AI 에이전트 시대의 '정보 공급망 공격(Information Supply Chain Attack)'이 얼마나 치명적일 수 있는지를 보여주는 경고장입니다. 공격자들은 시스템을 직접 해킹하는 대신, AI가 학습하고 인용하는 '데이터의 맥락'을 해킹하고 있습니다. 이는 AI 모델의 성능 향상만큼이나 데이터의 신뢰성을 검증하는 '신뢰 레이어(Trust Layer)' 구축이 기업의 핵심적인 보안 경쟁력이 될 것임을 시사합니다.
물론, 모든 웹 정보를 실시간으로 검증하는 것은 비용 측면에서 불가능에 가깝고, 과도한 검증은 AI의 응답 속도와 유용성을 저해하는 트레이드오프를 발생시킵니다. 하지만 스타트업 창업자라면 AI 답변을 신뢰하는 사용자 층을 대상으로 한 서비스 설계 시, 공식 채널의 인증(Verification) 프로세스를 어떻게 사용자 경험(UX)에 자연스럽게 녹여낼지 고민해야 합니다. 단순히 AI의 답변을 보여주는 것을 넘어, 그 출처의 신뢰도를 사용자에게 시각적으로 증명하는 기술이 차세대 보안 및 서비스의 핵심이 될 것입니다.
관련 뉴스
댓글
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.