Postman, Amazon Bedrock에서 4천만 명의 개발자를 위한 에이전트 모드 운영 방식

(aws.amazon.com)

Postman이 Amazon Bedrock을 활용해 4천만 개발자를 위한 AI 에이전트 모드를 성공적으로 운영하며, 복잡한 기존 제품에 AI 에이전트를 통합할 때 발생하는 도구 확산 문제와 컨텍스트 관리의 핵심 해결책을 제시했습니다.

이 글의 핵심 포인트

1Postman은 Amazon Bedrock을 사용하여 4천만 개발자를 위한 AI 에이전트 'Agent Mode'를 운영 중임
2도구의 수가 약 40개를 넘어설 때 에이전트의 도구 선택 오류와 실행 정확도 저하 문제가 발생함
3170개 이상의 도구를 벡터 DB 임베딩을 통해 작업에 필요한 약 15개로 압축하여 서브 에이전트에게 전달하는 아키텍처를 구축함
4Amazon Bedrock을 통해 글로벌 트래픽 급증에 대응하고, 지역별 추론 및 데이터 보존 제어를 구현함
5사용자의 승인을 거치는 'Human-in-the-loop' 구조와 개인정보 보호를 위한 Guardrails를 적용함

이 글에 대한 공공지능 분석

왜 중요한가?

단순한 AI 데모를 넘어, 수천만 명의 사용자가 사용하는 성숙한(Mature) 제품에 AI 에이전트를 실제 프로덕션 환경으로 배포할 때 직면하는 엔지니어링 과제를 구체적으로 보여줍니다. 특히 '도구의 과잉(Tool Sprawl)' 문제를 해결하는 아키텍처 패턴은 에이전트 기반 서비스를 준비하는 모든 팀에 이정표가 됩니다.

어떤 배경과 맥락이 있나?

기존 소프트웨어는 사용자가 UI를 통해 정보를 찾는 방식에 최적화되어 있지만, AI 에이전트는 데이터를 추론하며 동작합니다. Postman은 11년간 쌓아온 복잡한 API 인터페이스와 도구들을 AI 에이전트가 이해할 수 있는 '추론 가능한 구조'로 재설계해야 하는 상황에 놓여 있었습니다.

업계에 어떤 영향을 주나?

LLM의 성능에만 의존하는 것이 아니라, 에이전트에게 제공되는 '컨텍스트'와 '도구의 범위'를 제어하는 것이 에이전트 성능의 핵심임을 시사합니다. 이는 향후 에이전트 기반 SaaS 개발의 초점이 프롬프트 엔지니어링에서 '도구 오케스트레이션(Tool Orchestration)'으로 이동할 것임을 예고합니다.

한국 시장에 어떤 시사점이 있나?

글로벌 시장을 타겟으로 하는 한국의 B2B SaaS 스타트업들은 Amazon Bedrock과 같은 관리형 서비스를 활용해 인프라 부담을 줄이면서도, 자사 서비스의 복잡한 기능을 에이전트가 효율적으로 사용할 수 있도록 하는 '계층적 도구 선택 아키텍처' 도입을 적극 검토해야 합니다.

이 글에 대한 큐레이터 의견

Postman의 접근 방식 중 가장 탁월한 점은 170개가 넘는 도구를 모두 에이전트에게 노출하지 않고, 루트 에이전트가 벡터 DB를 통해 필요한 15개 내외의 도구만 선별하여 서브 에이잭트에게 전달하는 '계층적 구조'를 채택했다는 점입니다. 이는 모델의 인지 부하를 줄이고 토큰 비용과 오류율을 동시에 잡는 매우 영리한 전략입니다.

하지만 이러한 계층적 오케스트레이션은 또 다른 트레이드오프를 발생시킵니다. 도구를 선별하는 과정에서 적절한 도구가 누락될 경우, 에이전트는 아예 작업을 수행할 수 없는 '치명적 실패'를 겪게 되며, 이는 시스템의 디버깅 난이도를 급격히 높이는 리스크가 됩니다. 또한, 단계가 늘어날수록 전체적인 추론 지연 시간(Latency)이 증가할 수 있습니다.

따라서 스타트업 창업자들은 단순히 '똑똑한 모델'을 찾는 데 집중하기보다, 우리 서비스의 복잡한 기능을 어떻게 하면 모델이 이해하기 쉬운 작은 단위의 '도구'로 쪼개고, 이를 어떻게 효율적으로 필터링하여 전달할 것인가라는 '에이전트 인프라 설계'에 더 많은 리소스를 투입해야 합니다.

원문 보기 →