취약한 앱을 만들어 LLM이 해킹할 수 있는지 확인하며 1,500달러를 썼다

(kasra.blog)

LLM의 보안 취약점 탐지 능력을 실험하기 위해 1,500달러를 투입한 결과, GPT-5.5와 같은 최신 모델이 Firebase 설정 오류를 이용한 해킹에 매우 높은 성공률을 보였다는 사실은 AI 시대의 새로운 보안 위협을 시사합니다.

이 글의 핵심 포인트

11,500달러를 투입한 LLM 해킹 실험 결과, GPT-5.5가 10회 중 7회(70%)의 높은 성공률을 기록함
2API 자체는 견고하더라도 Firebase 등 데이터 레이어의 접근 제어(Broken Access Control) 오류가 주요 타겟임
3Claude와 Gemini 등 일부 모델은 보안 가드레일로 인해 공격 시도가 차단되거나 조기에 중단됨
4Deepseek-v4-pro는 저렴한 비용($0.62/solve)으로도 유의미한 성공률(30%)을 보이며 가성비 높은 공격 가능성을 시사함
5AI가 클라우드 설정 오류를 찾아내는 능력이 탁월하므로, BaaS 사용 시 데이터베이스 권한 관리가 핵심 보안 요소로 부상함

이 글에 대한 공공지능 분석

왜 중요한가?

AI가 단순한 코딩 보조를 넘어 자동화된 사이버 공격 도구로 활용될 수 있음을 실증적으로 보여줍니다. 특히 개발자가 간과하기 쉬운 클라우드 설정 오류를 AI가 정밀하게 타격할 수 있다는 점이 핵심입니다.

어떤 배경과 맥락이 있나?

최근 Firebase나 Supabase 같은 BaaS(Backend as a Service) 사용이 급증하면서, API 보안은 강화되지만 데이터베이스 자체의 접근 제어(Broken Access Control)가 누락되는 보안 패턴이 빈번하게 발생하고 있습니다.

업계에 어떤 영향을 주나?

보안 자동화 도구의 발전과 동시에, AI 기반의 자동화된 공격(Automated Exploitation) 위협이 현실화됨에 따라 보안 감사(Audit)의 패러다임이 '코드 리뷰'에서 '런타임 설정 검증'으로 확장되어야 합니다.

한국 시장에 어떤 시사점이 있나?

클라우드 네이티브 전환이 빠른 한국 스타트업들에게, AI를 활용한 자동화된 보안 스캐닝 도입과 함께 클라우드 설정 오류(Misconfiguration)에 대한 철저한 보안 거버팅 구축이 필수적입니다.

이 글에 대한 큐레이터 의견

이번 실험은 AI가 단순한 '생산성 도구'를 넘어 '공격적 지능'으로 진화하고 있음을 보여주는 강력한 경고입니다. 특히 GPT-5.5가 70%의 높은 성공률을 기록했다는 점은, 공격자가 AI를 이용해 아주 적은 비용으로도 정밀한 취약점 공격을 수행할 수 있는 '공격의 민주화' 시대가 도래했음을 의미합니다.

스타트업 창업자들은 이제 코드의 논리적 결함뿐만 아니라, 인프라와 클라우드 서비스(Firebase, Supabase 등)의 권한 설정 오류가 AI에 의해 얼마나 쉽게 노출될 수 있는지 직시해야 합니다. 보안은 더 이상 '나중에' 할 작업이 아니라, 제품 설계 단계부터 AI 기반의 자동화된 공격 시나리오를 고려한 'Security by Design' 관점에서 접근해야 합니다.

원문 보기 →