AWS Machine Learning Blog

Amazon Bedrock AgentCore는 개별 요청의 적법성을 넘어, 에이전트가 수행하는 일련의 작업 흐름을 감시하여 보안 위협과 비용 초과를 방지하는 'Temporal Policies' 기능을 새롭게 선보였습니다. 이는 새로운 정책 언어인 Dogwood를 통해 에이전트의 행동 패턴을 인프라 계층에서 결정론적으로 제어함으로써 AI 에이전트 운영의 신뢰성을 높이는 데 목적이 있습니다.

개발자 워크스테이션의 로컬 OTel 컬렉터를 통해 Codex의 사용 지표를 Amazon CloudWatch로 전송하여 조직 단위의 모니터링 대시보드를 구축하는 방법을 다룹니다. 이 방식은 모델 요청 경로에 프록시를 추가하지 않으면서도 사용자, 팀, 비용 센터별로 AI 에이전트의 도입 현황과 성능을 정밀하게 추적할 수 있게 해줍니다.

글로벌 기업의 데이터 거주성 요구사항을 충족하기 위해 Amazon Bedrock의 Mantle 엔드포인트와 클래식 API를 활용한 단일 리전 구현 방안을 다룹니다. 지역에 따라 Mantle의 네이티브 라우팅이나 애플리케이션 추론 프로필을 사용하여 데이터가 지정된 리전을 벗어나지 않도록 제어하는 구체적인 방법을 설명합니다.

Amazon Bedrock의 자동 추론(Automated Reasoning)은 통계적 확률이 아닌 수학적 논리로 AI 답변을 검증하는데, 이 과정의 높은 난이도를 해결하기 위해 6가지 전용 '에이전트 스킬'을 소개합니다. 이를 통해 개발자는 코딩 에이전트를 활용하여 정책 생성부터 테스트, 배포, 검증에 이르는 복잡한 워크플로우를 자동화할 수 있습니다.

PDI Technologies는 개발 인력 부족으로 방치되던 사내 소규모 도구들을 위해 자연어 기반의 앱 배포 플랫폼인 'PDI Brew'를 개발했습니다. 이 시스템은 AI 에이전트가 사용자의 의도를 파악해 구조화된 매니페스트를 생성하면, AWS Lambda가 이를 바탕로 필요한 클라우드 리소스를 자동으로 프로비저닝하는 구조로 작동합니다.

Amazon SageMaker Python SDK v3가 LLM 추론 최적화를 위한 통합 기능을 출시했습니다. 이제 개발자는 노트북 환경에서 직접 엔드포인트를 벤치마킹하고, 비용 대비 성능이 최적화된 인스턴스 설정을 추천받아 즉시 배포할 수 있습니다.

LendingTree는 복잡한 대출 과정을 돕기 위해 Supervisor와 두 개의 전문 Worker(교육 및 매칭)로 구성된 멀티 에이전트 시스템을 구축했습니다. Amazon Bedrock의 모델과 LangGraph를 활용해 계획-실행 패턴을 구현했으며, 보안 준수와 비용 최적화를 위해 가드레일 적용 및 멀티 모델 전략을 사용했습니다.

모바일아이는 방대한 데이터 수집 과정에서 발생하는 반복적인 기술 문의를 해결하기 위해 AI 지원 에이전트를 도입했습니다. Amazon Bedrock AgentCore와 MCP(Model Context Protocol)를 활용해 온프레미스 시스템과 클라우드를 연결함으로써, 인프라 관리 부담 없이 응답 시간을 90% 줄이고 정확도 95% 이상을 달성했습니다.

이 글은 클라우드에 호스팅된 AI 에이전트가 사용자의 로컬 컴퓨터 내 MCP(Model Context Protocol) 도구에 접근할 수 있도록 하는 'MCP 브리지' 아키텍처를 소개합니다. 웹소켓과 네이티브 메시징을 활용해 원격 에이전트와 로컬 서버 간의 통신 격차를 해결하며, 금융 분석가처럼 로컬 파일을 다루는 사용자에게 강력한 AI 자동화 환경을 제공하는 방법을 설명합니다.

Amazon Bedrock AgentCore의 'harness' 기능을 n8npm에서 사용할 수 있는 새로운 오픈소스 커뮤니티 노드가 공개되었습니다. 이 노드를 통해 개발자는 별도의 복잡한 코드 작성 없이도 메모리, 도구 활용, 오케스트레이션 기능이 통합된 고성능 AI 에이전트를 n8n 워크플로우 내에서 구축하고 관리할 수 있습니다.

Amazon Bedrock에 웹 검색 기능이 정식 출시되어, 개발자가 별도의 서드파티 검색 엔진을 통합할 필요 없이 모델의 답변에 최신 정보를 반영할 수 있게 되었습니다. 이 기능은 아마존의 자체 웹 인덱스와 지식 그래프를 활용해 정확한 정보를 추출하며, 데이터 보안과 비용 효율성을 동시에 제공합니다.

이 글은 Amazon Bedrock AgentCore Browser를 사용하여 JavaScript로 렌더링되는 웹 사이트의 콘텐츠를 안정적으로 수집하고 AI로 분석하는 자동화 솔루션을 소개합니다. RSS 피드 모니터링부터 벡터 검색 기반의 시맨틱 검색까지 이어지는 아키텍처를 통해 시장 조사 프로세스를 혁신할 수 있습니다.

F1은 방대한 팬 데이터를 처리하는 과정에서 발생하는 수개월의 데이터 통합 백로그와 운영 복잡성 문제를 해결하기 위해 AWS의 에이전트형 AI 기술을 도입했습니다. 이를 통해 데이터 소스 온보딩 시간을 8주에서 약 40분으로 단축하고, 데이터 파이프라인의 자동화된 관리 및 가시성을 확보하는 데 성공했습니다.

Amazon Bedrock은 기존의 번거로운 정책 진단 및 수정 루프를 자동화하는 새로운 기능을 도입했습니다. 이 기능은 규칙 오류를 해결하는 '반복적 개선'과 언어적 모호성을 해소하는 '모호한 변수 개선' 두 가지 모드를 통해 AI 가드레일의 신뢰도를 높입니다.

Amazon Quick은 AWS Glue나 Databricks와 같은 상위 데이터 카탈로그의 메타데이터를 자연어로 검색하고 자동으로 활용하는 'Agentic Catalog Experience'를 도입했습니다. 이를 통해 데이터 관리자가 수동으로 정의를 재입력하던 번거로움을 없애고, 기업 내 축적된 의미론적 맥락을 AI 분석에 즉시 반영하여 신뢰도 높은 인사이트를 빠르게 도출할 수 있게 합니다.

AI 에이전트가 프로토타입을 넘어 실제 서비스로 전환될 때 발생하는 응답 지연 및 메모리 증가 문제를 Amazon Bedrock AgentCore와 CloudWatch를 통해 해결하는 방법을 다룹니다. 특히 도구 호출(Tool invocation)과 메모리 검색 과정에서의 병목 지점을 식별하고, 성능 예산을 준수하기 위한 모니터링 전략을 설명합니다.

Moonshot AI의 K3는 2.8조 파라미터 규모의 MoE 모델로, 효율적인 추론을 위해 MXFP4 양자화와 vLLM 엔진 활용을 권장합니다. 본 글은 AWS의 SageMaker HyperPod와 ES를 사용하여 NVIDIA B300 GPU 인스턴스에 이 거대 모델을 배포하는 구체적인 아키텍처와 절차를 설명합니다.

Moonshot AI의 초거대 MoE 모델인 Kimi K3를 Amazon SageMaker HyperPod와 EKS에 배포하는 두 가지 접근 방식을 설명합니다. 이 모델은 2.8조 개의 파라미터를 보유한 오픈 웨이트 시스템으로, vLLM 엔진과 NVIDIA B300 GPU 인프라를 활용한 최적화된 서빙 방법을 제안합니다.

야후는 기존 Word2Vec 기반 키워드 확장 방식의 한계를 해결하기 위해 Amazon Bedrock과 Claude 3.5 Sonnet을 도입하여 검색 리타겟팅(SRT) 성능을 강화했습니다. 이를 통해 단순 문법적 유사성을 넘어 의미론적으로 풍부한 키워드 확장이 가능해졌으며, 광고주에게 더욱 정교한 타겟팅 기회를 제공합니다.

이 글은 Amazon SageMaker AI 엔드포인트의 예측 및 데이터 품질을 지속적으로 추적하기 위한 메타 모니터링 시스템 구축 방법을 소개합니다. AWS 관리형 서비스와 MLflow, Evidently AI 같은 오픈 소스를 결합하여 드리프트 감지, 지연된 정답 데이터 통합, 자동화된 대시보드를 구현하는 아키텍처를 제시합니다.

Amazon Bedrock에 용도별 세 가지 티어를 갖춘 GPT-5.6(Sol, Terra, Luna) 모델이 정식 출시되었습니다. 이번 업데이트의 핵심은 개발자가 캐싱 영역을 직접 제어하여 비용을 90% 절감할 수 있는 '명시적 프롬프트 캐싱' 기능의 도입입니다.

Amazon Bedrock이 새로운 'Advanced Prompt Optimization' 기능을 도입하여 프롬프트 엔지니어링의 수동 반복 작업을 자동화합니다. 이 도구는 최대 5개의 모델에 대해 프롬프트를 최적화하고, 품질, 비용, TTFT(첫 토큰 생성 시간)를 한 번에 비교하여 효율적인 모델 마이그레이션을 지원합니다.

Amazon Bedrock AgentCore Identity가 기존 OAuth 2.0 클라이언트 비밀키 방식 대신 AWS KMS를 이용한 프라이빗 키 JWT 인증을 지원하기 시작했습니다. 이를 통해 에이전트는 개인키 노출 위험 없이 안전하게 다운스트림 API에 접근할 수 있으며, M2M부터 사용자 위임까지 다양한 인증 흐름을 지원합니다.

기업 내 흩어진 IoT, ERP 등 다양한 시스템의 데이터를 통합하기 위해 막대한 비용이 드는 기존 방식 대신, 설정만으로 운영 가능한 Amazon Bedrock AgentCore를 소개합니다. MCP 서버 커넥터를 활용해 데이터 소스를 연결하고 자연어로 질문하면 AI 에이전트가 자율적으로 분석 결과를 도출합니다.