프롬프트 인젝션이 에이전트, RAG 파이프라인 및 모델 라우터를 노려 기업 AI의 가장 큰 설계 결함을 악용

지난 2년간 기업들은 이전에 없던 방식으로 지원, 분석, 개발 및 내부 자동화에 대규모 언어 모델(LLMs)을 통합하려 노력해왔습니다. AI 기술의 도입 증가와 함께 또 다른 추세가 힘을 얻고 있는데, 바로 사이버 범죄자들이 LLM에 대한 가정과 실제 특성 간의 불일치를 악용하고 있다는 점입니다. 2025년과 2026년에 여러 독립적인 출처에서 동일한 경향을 강조했는데, 프롬프트 인젝션(Prompt Injection)은 가장 큰 영향력을 행사하는 공격 기법 중 하나로 남아 있습니다.