AI 공격으로 한때 인기를 끌었던 ASCII 밀수, 스팸메일러들이 활용

(arstechnica.com)

Ars Technica2026년 9월 4일AI 산업

AI 프롬프트 인젝션 공격에 사용되던 'ASCII 밀수' 기술이 스팸 메일 필터를 우회하는 수단으로 변질되어 사용되면서, 텍스트 기반 보안 모델의 구조적 취약성이 드러나고 있습니다.

이 글의 핵심 포인트

1AI 프롬프트 인젝션 공격에 사용되던 ASCII 밀수 기술이 스팸 메일 필터 우회에 활용됨
2마이크로소프트 디펜더의 ASCII 밀수 탐지 건수가 하루 2.1만 건에서 250만 건까지 급증함
3보이지 않는 유니코드 태그를 단어 사이에 삽입하여 AI 모델의 토큰화(Tokenization) 과정을 방해함
4스패머들은 'funding'과 같은 키워드를 'fun[invisible tag]ding'으로 분리하여 필터를 무력화함
5기존의 텍스트 기반 필터를 넘어 OCR 추출이나 텍스트 정규화와 같은 새로운 방어 전략이 필요함

이 글에 대한 공공지능 분석

왜 중요한가?

기존의 텍스트 기반 보안 필터가 AI 모델의 토큰화(Tokenization) 방식에 의존하고 있다는 구조적 약점을 공격자가 정확히 파고들었기 때문입니다. 이는 단순한 스팸 문제를 넘어, 텍러 기반의 모든 자동화된 보안 시스템에 대한 새로운 위협 모델을 제시합니다.

어떤 배경과 맥락이 있나?

ASCII 밀수는 원래 LLM에 숨겨진 명령을 전달하는 프롬프트 인젝션 공격을 위해 사용되던 기술입니다. 최근 스패머들은 이를 역이용하여, 사람이 읽는 텍스트와 기계가 처리하는 토큰을 분리함으로써 ML 기반 스팸 탐지기를 무력화하는 데 활용하고 있습니다.

업계에 어떤 영향을 주나?

보안 솔루션 개발사들은 단순 문자열 매칭을 넘어, 텍스트를 이미지로 변환해 분석하는 OCR 방식이나 강력한 정규화(Normalization) 프로세스를 도입해야 하는 기술적·비용적 부담을 안게 되었습니다. 이는 AI 보안(AI Security) 시장의 새로운 기술적 요구사항을 창출할 것입니다.

한국 시장에 어떤 시사점이 있나?

한국어는 형태소 분석과 토큰화가 매우 복잡한 언어이므로, 유사한 유니코드 변조 공격에 더욱 취약할 수 있습니다. 국내 보안 스타트업들은 한국어 특화 토큰화 방어 기술 및 데이터 정규화 엔진을 차별화된 경쟁력으로 확보해야 합니다.

이 글에 대한 큐레이터 의견

이번 사례는 공격자가 방어 기술의 발전(ML/NLP 기반 필터링)을 역이용하여 그 허점을 찾아내는 '적대적 공격'의 전형적인 모습을 보여줍니다. 스패머들은 보안 모델이 효율성을 위해 텍스트를 '토큰' 단위로 쪼개서 처리한다는 점을 정확히 공략했습니다. 이는 보안 기술의 고도화가 곧 새로운 공격 표면(Attack Surface)을 만드는 결과를 초래할 수 있음을 시사합니다.

단, 모든 텍스트를 OCR로 검사하거나 강력한 정규화를 적용하는 것은 막대한 컴퓨팅 비용과 지연 시간(Latency)을 발생시킨다는 트레이드오프가 존재합니다. 따라서 무조건적인 방어보다는, 텍스트의 시각적 형태와 토큰 구조 간의 괴리를 탐지하는 경량화된 검증 레이어를 구축하는 것이 현실적인 대안입니다. 스타트업 창업자들은 AI 모델의 성능뿐만 아니라, 모델의 입력 데이터가 조작될 가능성을 고려한 '데이터 무결성 검증'을 제품 설계의 핵심 요소로 포함해야 합니다.

원문 보기 →