AWS Machine Learning Blog

AWS는 호주 시드니와 멜버른 리전에서 Amazon Bedrock을 통해 OpenAI의 GPT-5.6 Sol, Terra, Luna 모델을 사용할 수 있도록 지원을 확대했습니다. 글로벌 교차 리전 추론 기능을 통해 사용자는 로컬 엔드포인트를 호출하는 것만으로도 전 세계 AWS 리전의 가용 자원을 활용하여 안정적인 추론 서비스를 구현할 수 있습니다.

기업의 고객 지원 운영이 늘어나는 티켓량과 파편화된 지식으로 인해 한계에 직면한 가운데, AWS는 생성형 AI를 통한 운영 현대화 방안을 제안합니다. 이 솔루션은 영상 기반 SOP 자동 생성, RAG를 통한 문제 해결 가이드, ML 기반의 SLA 위험 예측 및 에이전틱 워크플로우를 통한 업무 자동화를 핵심으로 합니다.

AWS는 인프라가 정상임에도 데이터가 잘못 표시되는 '침묵의 오류'를 해결하기 위해 Amazon Bedrock 기반의 자동화된 콘텐츠 검증 솔루션을 구축했습니다. 이 시스템은 시각적 무결성과 수치 일관성을 동시에 모니터링하여 사용자가 문제를 인지하기 전에 개발자에게 실시간 알림을 제공합니다.

이 기사는 Amazon Bedrock AgentCore를 사용하여 코드 베이스를 분석하고 아키텍처 다이어그램을 자동으로 생성 및 업데이트하는 자동화 파이프라인 구축 사례를 다룹니다. AWS의 다양한 서비스를 결합하여 문서의 최신성을 유지하고, 생성된 문서를 지식 베이스화하여 자연어 검색이 가능하도록 구현했습니다.

University Startups는 장애 학생의 개별화 교육 프로그램(IEP) 작성을 지원하는 대화형 AI '트리니티'를 개발했습니다. 이 솔루션은 단일 모델의 한계를 극복하기 위해 Amazon Bedrock 기반의 멀티 에이전트 구조를 채택하여 높은 정확도와 데이터 보안성을 동시에 확보했습니다.

Anthropic이 차세대 모델 Claude Fable 5.1을 Amazon Bedrock 및 AWS Claude Platform에 출시했습니다. 이 모델은 복잡한 추론, 에이전트 기반 코딩, 자율적 작업 수행 능력이 대폭 강화되었으며, 기업용 보안 솔루션인 EFS를 통해 데이터 보안을 강화한 것이 특징입니다.

Atos는 400명의 엔지니어를 대상으로 AWS AI League를 운영하여 에이전트 AI의 이론을 넘어 실제 멀티 에이전트 시스템을 구축하는 실전형 교육을 진행했습니다. 이 프로그램은 경쟁적인 리더보드와 실제 AWS 서비스를 활용한 미션 수행을 통해 엔지니어들이 AI 안전성, 메모리, 코드 실행 등 핵심 기술을 직접 구현하며 실무 역량을 확보하도록 설계되었습니다.

Jamf는 개발자의 AI 모델 사용량이 급증할 때 발생하는 비용 폭증을 막기 위해, 예산 사용량에 따라 고비용 모델의 접근을 자동으로 차단하는 서버리스 기반의 실시간 지출 강제 시스템을 구축했습니다. 이 시스템은 AWS Lambda와 IAM 정책을 활용하여 개발자의 작업 흐름을 방해하지 않으면서도 비용 효율적인 모델로의 전환을 유도합니다.

이 글은 Amazon Quick의 에이전트, 플로우, 스페이스를 활용하여 보안 사고 없이 대규모 사용자에게 데이터를 안전하게 제공하는 방법을 다룹니다. 데이터셋 구조화, 에이전트 격리, 문서 분류, 승인 게이트라는 네 가지 검증된 패턴을 통해 권한 설정 오류로 인한 데이터 유출 리스크를 원천 차단하는 전략을 설명합니다.

t54는 AI 에이전트가 외부 API 비용 등을 자율적으로 결제할 수 있도록 돕는 신뢰 계층인 'x402-secure'를 개발했습니다. Amazon Bedrock AgentCore의 결제 인프라와 결합하여, 인간의 개입 없이도 수천만 건의 마이크로 결제를 안전하게 처리하며 지출 한도 및 보안 관리를 자동화합니다.

ZS는 헬스케어 산업의 엄격한 보안 요구사항을 충족하기 위해 Amazon SageMaker 기반의 보안 강화된 ML 플랫폼을 구축했습니다. 이 플랫폼은 VPC 엔드포인트와 멀티테넌트 아키텍처를 통해 데이터 격리를 구현하며, 자동화된 비용 관리와 보안 통제를 통해 1,000명 이상의 사용자가 안전하게 애드혹 분석을 수행할 수 있도록 지원합니다.

Boomi Scribe는 AWS Bedrock과 Claude 모델을 기반으로 복잡한 데이터 통합 프로세스를 분석하여 상세한 문서를 자동으로 생성하는 AI 에이전트입니다. 이 솔루션은 XML 데이터를 DAG 구조로 변환하여 문서화할 뿐만 아니라, 버전 간 차이점까지 비교하여 개발자의 생산성을 높이고 기술 부채를 줄여줍니다.

이 글은 Model Context Protocol(MCP) 서버를 AgentCore Runtime에 배포하고 이를 Amazon Quick와 통합하는 기술적 가이드를 제공합니다. 개발자는 이를 통해 AI 에이전트가 외부 데이터와 도구에 안전하고 표준화된 방식으로 접근할 수 있는 확장 가능한 인프라를 구축할 수 있습니다.

AWS가 Forrester의 2025년 4분기 AI 인프라 솔루션 평가에서 리더로 선정되었습니다. AWS는 자체 개발한 Trainium 및 Inferentia 칩과 NVIDIA GPU를 동시에 제공함으로써, 워크로드에 최적화된 비용 효율적인 인프라 선택지를 제공한다는 점에서 높은 평가를 받았습니다.

AWS Agent Registry는 조직 내 산재된 AI 에이전트, 툴, 스킬을 하나의 중앙 집중식 카탈로그로 관리하는 서비스입니다. 거버넌스 플레인을 통해 보안과 규제를 관리하고, 디스커버리 플레인을 통해 승인된 자산을 쉽게 검색하고 활용할 수 있도록 지원합니다.

기존의 단일 단계 RAG를 넘어, 에이전트가 스스로 질문을 분석하고 적절한 지식 베이스를 선택해 반복적으로 정보를 검색하는 '에이전트형 검색(Agentic Retrieval)' 구축 기술을 다룹니다. Amazon Bedrock Managed Knowledge Base를 사용해 인프라 관리 부담을 줄이면서도, OpenTelemetry를 통한 강력한 관역성을 확보하는 아키텍처를 제안합니다.

이 글은 기업용 멀티 테넌트 에이전틱 채팅 앱 구축 시 발생하는 데이터 격리 및 인프라 관리의 어려움을 Amazon Bedrock Managed Knowledge Base로 해결하는 방법을 다룹니다. 개발자는 복잡한 벡터 검색 및 인덱싱 인프라 대신 제품의 핵심 비즈니스 로직에만 집중할 수 있는 아키텍처를 구축할 수 있습니다.

Amazon SageMaker Feature Store에 한 번의 호출로 최대 25개의 레코드를 여러 피처 그룹에 동시에 기록할 수 있는 BatchWriteRecord와, 인메모리 스토리지의 레코드를 조회할 수 있는 ListRecords API가 추가되었습니다. 이를 통해 고처리량 ML 파이프라인의 오버헤드를 줄이고, 데이터 유실 위험에 대비한 데이터 가시성을 높일 수 있게 되었습니다.

데카틀론은 기존 DeepAR 및 TFT 모델이 가진 높은 운영 비용과 확장성 문제를 해결하기 위해 시계열 파운데이션 모델인 Chronos-2를 도입했습니다. 벤치마크 결과, Chronos-2는 제로샷(Zero-shot) 성능만으로도 기존 모델에 필적했으며, 주기적인 파인튜닝을 통해 예측 정확도를 극대화하고 추론 효율성까지 확보했습니다.

Salesforce는 SageMaker Inference Components를 통해 GPU 인프라 비용을 8배 절감했으나, 기본 배치 알고리즘으로 인한 단일 장애점 발생 문제를 겪었습니다. 이를 해결하기 위해 SchedulingConfig 파라미터를 도입하여 모델 복제본을 여러 가용 영역(AZ)에 균등하게 분산함으로써 비용 효율성과 고가용성을 동시에 확보했습니다.

이 기사는 Amazon Quick을 오케스트레이터로, fal을 미디어 생성 인프라로 활용하여 에이전트 기반의 창의적 워크플로우를 구축하는 방법을 설명합니다. MCP(Model Context Protocol)를 통해 서로 다른 도구들을 표준화된 방식으로 연결함으로써, 맥락을 유지하면서도 인간의 검토가 포함된 자동화된 미디어 제작 프로세스를 구현할 수 있습니다.

Amazon Bedlarck이 인도 내 데이터 거주성 요구사항을 충족하기 위해 OpenAI의 GPT-5.6(Terra, Luna) 모델 지원을 시작했습니다. 이번 업데이트는 인도 내 리전 간 교차 추론을 통해 데이터 유출 없이 대규모 트래픽을 처리할 수 있는 인프라를 제공합니다.

Deepgram은 AWS Marketplace의 네트워크 격리 환경에서도 비용과 사용량을 확인할 수 있는 'Deepgram Enhanced Metrics'와 GPU 수준의 성능을 추적하는 Prometheus/OpenTelemetry 지원 기능을 도입했습니다. 이를 통해 사용자는 데이터 보안을 유지하면서도 AI 모델의 인프라 효율성과 비용 관리의 투명성을 확보할 수 있게 되었습니다.

Heidi Health는 NVIDIA MPS를 활용해 GPU 활용률을 높임으로써 ASR 추론 비용을 75% 절감했습니다. 기존의 순차적 처리 방식 대신 커널을 동시 실행하는 MPS를 도입하여, 동일한 성능을 유지하면서도 GPU 인스턴스 요구량을 16개에서 4개로 대폭 줄였습니다.