Orca Security에서 Amazon Bedrock을 활용한 자연어 보안 쿼리

(aws.amazon.com)

Orca Security가 Amazon Bedrock을 활용해 복잡한 보안 쿼리를 자연어로 변환하는 'Discovery AI'를 구축함으로써, 쿼리 비용을 90% 절감하고 응답 속도를 75% 개선하며 보안 분석의 효율성을 혁신적으로 높였습니다.

이 글의 핵심 포인트

1Orca Security는 Amazon Bedrock을 활용해 자연어 보안 쿼리 에이전트인 'Discovery AI'를 구축함
2초기 PoC 대비 쿼리 비용 90%, 입력 토큰 93%, 지연 시간 75%를 절감하는 성과를 거둠
3900개 이상의 클라우드 모델과 복잡한 관계를 처리하기 위해 RAG와 스키마 인식 쿼리 생성 기술을 결합한 9단계 파이프라인을 설계함
4정규표현식 및 규칙 기반의 'Quick Deterministic Matcher'를 통해 IP, CVE 등 특정 패턴은 LLM 없이 빠르게 처리함
5Amazon Bedrock의 멀티 모델 접근성과 AWS의 보안 거버넌스(IAM, VPC 등)를 활용하여 보안 요구사항을 충족함

이 글에 대한 공공지능 분석

왜 중요한가?

전문적인 도메인 지식이 필요한 보안 쿼리를 자연어로 대체함으로써 보안 운영의 진입 장엇을 낮추고 운영 효율성을 극대화한 사례이기 때문입니다. 특히 대규모 언어 모델(LLM)을 단순 활용하는 것을 넘어, 실제 프로덕션 환경에서 발생하는 비용과 성능 문제를 해결하기 위해 정교한 하이브리드 파이프라인을 설계했다는 점이 핵심입니다.

어떤 배경과 맥락이 있나?

클라우드 환경이 복잡해짐에 따라 관리해야 할 리소스 모델이 900개가 넘어가면서, 기존의 구조화된 쿼리 언어(Sonar)를 숙달하는 데 막대한 비용과 시간이 소요되는 상황이었습니다. 이를 해결하기 위해 자연어 인터페이스 도입이 시도되었습니다.

업계에 어떤 영향을 주나?

LLM 도입 시 발생하는 높은 토큰 비용과 지연 시간(Latency) 문제를 해결하기 위한 '멀티 스테이지 파이프라인'의 중요성을 시사합니다. 이는 AI 에이전트나 복잡한 데이터 쿼리 기능을 제공하려는 모든 SaaS 기업에 중요한 기술적 이정표가 될 것입니다.

한국 시장에 어떤 시사점이 있나?

클라우드 보안 및 인프라 관리 솔루션을 개발하는 국내 스타트업들은 단순한 LLM 연동을 넘어, 비용 효율적인 RAG 및 규칙 기반 매칭(Deterministic Matcher)을 결합한 아키텍처 설계 역량을 갖추는 것이 글로벌 경쟁력 확보의 핵심입니다.

이 글에 대한 큐레이터 의견

Orca Security의 사례는 'LLM을 어떻게 사용할 것인가'보다 '어떻게 효율적으로 운영할 것인가'에 대한 해답을 제시합니다. 초기 PoC에서 겪은 막대한 토큰 비용과 지연 시간 문제는 현재 많은 AI 기반 스타트업이 직면한 공통된 과제입니다. Orca는 모든 것을 LLM에 맡기는 대신, 정규표현식 기반의 결정론적 매칭(Deterministic Matcher)과 다단계 파이프라인을 도입하여 비용과 성능이라는 두 마리 토끼를 잡았습니다.

물론 이러한 복잡한 파이프라인 설계는 개발 난이도를 높이고 시스템의 유지보수 복잡성을 증가시킨다는 트레이드오프가 존재합니다. 9단계에 달하는 아키텍처는 각 단계마다 모델 관리와 로직 검증이 필요하므로, 초기 구축 비용과 운영 리스크가 발생할 수 있습니다. 하지만 서비스 규모가 커질수록 발생하는 비용 폭증을 막기 위해서는 이러한 구조적 최적화가 필수적입니다. 창업자들은 단순한 기능 구현을 넘어, 지속 가능한 유닛 이코노믹스(Unit Economics)를 고려한 AI 아키텍처 설계에 집중해야 합니다.

원문 보기 →