AWS Machine Learning Blog

NVIDIA Nemotron 3.5 Lightning은 고빈도 에이전트 작업에 최적화된 하이브리드 MoE 구조의 오픈 모델로, Amazon SageMaker JumpStart를 통해 손쉽게 배포할 수 있습니다. 이 모델은 30B 파라미터 중 3B만 활성화하여 높은 처리량과 빠른 속도를 제공하며, 대규모 에이전트 시스템 구축 시 비용과 지연 시간을 획기적으로 줄여줍니다.

Amazon Bedrock AgentCore의 결제 기능을 OpenClaw 에이전트에 통합하여, AI가 인간의 개입 없이도 유료 API나 콘텐츠에 대해 자동 결제를 진행할 수 있는 기술적 토대를 마련했습니다. 이 솔루션은 사전에 설정된 예산 및 한도 내에서만 작동하도록 설계되어 보안과 자율성을 동시에 확보합니다.

Amazon Nova Forge는 BYOO(Bring Your Own Orchestration) 기능을 통해 사용자가 직접 정의한 보상 로직을 다중 회전 강화 학습에 적용할 수 있도록 지원합니다. 특히 GRPO 알고리즘을 활용하여 모델의 출력물 간 상대적 우위를 학습함으로써, 도구 사용이나 코드 실행과 같은 복기 가능한 에이전트 작업의 성능을 높이는 전략을 제시합니다.

이 글은 Amazon Bedrock의 관리형 모델과 SageMaker AI에 배포된 오픈 소스 모델을 하나의 멀티 에이전트 시스템으로 통합하는 기술적 방법을 다룹니다. 이를 통해 사용자는 작업 특성에 따라 최적화된 모델을 선택적으로 활용하여 비용 효율성과 성능을 극대화할 수 있습니다.

AWS 외부 환경(온프레미스, GCP, Azure 등)에서 실행되는 AI 에이전트의 텔레메트리를 Amazon Bedrock AgentCore Observability로 전송하는 방법을 다룹니다. ADOT를 활용한 자동 계측과 IAM 인증을 통해 멀티클라우드 환경에서도 에이전트의 추론 체인, 도구 호출, 토큰 사용량을 통합 관리할 수 있습니다.

Amazon Bedrock AgentCore Browser Tool은 API가 부재한 레거시 웹 환경에서도 AI 에이전트가 브라우저를 통해 직접 상호작용할 수 있도록 지원하는 완전 관리형 서비스입니다. Strands Agents와 결합하여 복잡한 워크플로우를 자동화하며, 보안과 감사 추적 기능을 갖추어 규제 산업의 업무 효율을 높일 수 있습니다.

M&A 실사 과정에서 발생하는 데이터 파편화와 반복적인 업무 부담을 해결하기 위해 Amazon Bedrock AgentCore 기반의 멀티 에이전트 시스템 활용법을 다룹니다. 이 시스템은 자율적인 데이터 수집, 우선순위 지정, 지식 축적 및 거버넌스 통제를 통해 실사 기간을 주 단위에서 시간 단위로 단축할 수 있습니다.

Amazon Quick이 Microsoft Word, Excel, PowerPoint, Outlook에서 직접 작동하는 에이전트 AI 확장을 출시했습니다. 이 서비스는 AWS와 외부 데이터 소스를 연결하여 단순한 채팅을 넘어 문서 수정 및 데이터 기반 작업을 수행하며 업무 워크플로우의 단절을 해결합니다.

이 글은 Amazon Bedrock 사용 비용을 IAM principal(사용자/애플리케이션) 단위로 분리하여 분석하는 방법을 다룹니다. CUR 2.0의 특정 설정을 통해 비용 데이터를 확장하고, Athena와 CUDOS 대시보드를 사용하여 팀이나 프로젝트별로 정밀한 비용 추적 및 시각화를 구현하는 과정을 설명합니다.

영국의 기업용 소프트웨어 제공업체인 OneAdvanced는 의료 및 법률 등 민감한 데이터를 다루는 고객의 요구에 맞춰 영국 내 데이터 주권을 보칭하는 AI 솔루션을 구축했습니다. 이를 위해 Amazon Bedrock 대신 SageMaker를 활용해 Llama 4 모델을 직접 호스팅하고, 50개 이상의 전문화된 AI 에이전트를 배포하는 아키텍처를 구현했습니다.

Solv Labs는 AI 에이전트가 자율적으로 비용을 지불할 때 발생할 수 있는 권한 오남용과 금융 리스크를 방지하기 위해 ORACLE 정책 엔진과 ICME의 검증 레이어를 결합한 시스템을 개발했습니다. 이 시스템은 AWS Nitro Enclave와 x402 표준을 활용하여 모든 결제 내역에 대해 실시간 승인, 무결성 증명 및 감사 가능한 기록을 4초 이내에 생성합니다.

Amazon SageMaker HyperPod에 Curvine 기반의 L2 캐시 계층을 추가하여 GPU와 CPU를 넘어 공유 NVMe까지 KV 캐시를 확장하는 아키텍처를 소개합니다. 이를 통해 대규모 LLM 추란 시 발생하는 비용과 지연 시간(TTFT) 문제를 해결하고, 저렴한 인스턴스에서도 높은 성능을 유지할 수 있습니다.

AWS와 OpenAI가 협력하여 보안 전문가용 AI 모델인 Daybreak Red와 Daybreak Blue를 Amazon Bedrock에 출시했습니다. 이 모델들은 코드 분석부터 취약점 탐지, 패치 생성까지 사이버 방어의 전 과정을 가속화하며, 강력한 클라우드 거버넌스 환경을 통해 민감한 데이터 보안을 보장합니다.

건설 산업의 디지털 전환을 가속화하기 위해, ONESTRUCTION은 데이터가 희소한 IDS(정보 전달 사양) 분야에 특화된 AI 모델 Ishigaki-IDS를 개발했습니다. 이들은 AWS 인프라를 기반으로 합성 데이터 생성부터 검증 가능한 보상을 활용한 강화학습까지 이어지는 정교한 3단계 학습 전략을 통해 전문적인 XML 구조와 용어를 정확히 처리하는 성과를 거두었습니다.

사진 비즈니스 플랫폼 픽시셋은 Amazon Bedrock을 활용해 이미지의 대체 텍스트(alt-text)를 자동 생성하는 AI 기능을 도입했습니다. 창작자의 영역을 침범하지 않고 단순 반복 업무인 메타데이터 작성을 자동화함으로써, 출시 16개월 후에도 35%라는 높은 기능 사용률을 유지하고 있습니다.

First Orion은 분산형 아키텍처 도입과 서비스 확대로 인해 발생한 QA 병목 현상을 해결하기 위해 Amazon Nova Act를 도입했습니다. 기존의 취약한 스크립트 기반 자동화 대신 AI 에이전트를 활용하여 개발 속도에 맞춘 효율적인 품질 보증 체계를 구축했습니다.

Anthropic은 Claude Code 및 Desktop 사용 시 인증, 모델 접근 권한, 비용 추적 등을 중앙 집중식으로 제어할 수 있는 'Claude apps gateway'의 AWS 배포 아키텍처를 공개했습니다. 이 게이트웨이는 Amazon Bedrock과 연동되어 기업이 AI 사용량을 관리하고 보안 정책을 일관되게 적용할 수 있도록 돕습니다.

Amazon SageMaker AI Spaces add-on은 Amazon EKS 환경에서 JupyterLab과 Code Editor 같은 인터랙적 IDE를 통합 운영할 수 있게 해줍니다. 이를 통해 별도의 인프라 구축 없이 기존 클러스터의 GPU와 IAM 권한을 공유하며, 워크로드 통합을 통해 GPU 활용도를 최대 30% 높이고 비용을 최적화할 수 있습니다.

nOps는 기존 API 중심 인프라의 한계로 인한 응답 지연과 운영 복잡성을 해결하기 위해 Amazon Bedrock AgentCore 기반의 새로운 에이전트 아키텍처로 전환했습니다. 이를 통해 데이터 처리 효율을 높이고 개발 속도를 75% 가속화하며, 클라우드 비용 최적화라는 핵심 도메인 로직에 집중할 수 있는 환경을 구축했습니다.

코히어 헬스는 Amazon Bedrock AgentCore를 기반으로 'Cohere Policy Studio'를 구축하여, PDF 등 비정형 데이터로 존재하는 의료 정책을 기계 판독 가능한 구조적 데이터로 전환하고 있습니다. 이를 통해 복잡한 사전 승인 프로세스를 자동화하고, 강화되는 의료 규제와 실시간 승인 요구사항에 대응하는 확장 가능한 에이전트 시스템을 구현했습니다.

TReNDS 센터는 Amazon Bedrock을 활용해 CloudWatch 로그에서 에러를 감지하고, GitHub 소스 코드와 연동하여 근본 원인을 자동으로 분석하는 시스템을 구축했습니다. 이 아키텍처는 단순 에러 요약을 넘어 AI 에이전트가 직접 도구를 사용하여 조사 과정을 수행함으로써 엔지니어의 수동 조사 시간을 획기적으로 단축합니다.

AWS는 복잡한 타이브레이커 규칙이 적용되는 NHL 플레이오프 진출 여부를 자동으로 판별하기 위해 제약 프로그래밍(CP) 기반의 솔루션을 개발했습니다. 이 시스템은 0-day solver와 n-day lookahead 방식을 결합하여 수많은 경기 결과 시나리오를 정확하고 빠르게 계산해냅니다.

Amazon Bedrock AgentCore는 AI 에이전트의 실행 궤적(trajectory)을 분석하여 보안을 강화하는 '시간 기반 정책' 기능을 선보였습니다. 이 기능은 개별 요청의 안전성을 넘어, 이전 작업과의 연관성을 평가함으로써 환각으로 인한 데이터 변조나 권한 남용 같은 복잡한 보안 위협을 게이트웨이 수준에서 차단합니다.

Amazon Bedrock AgentCore 게이트류가 사용자별로 AI 트래픽을 정교하게 관리할 수 있는 속도 제한(Rate Limiting) 기능을 출시했습니다. 개발자는 요청 수(RPS/RPM), 토큰 처리량(TPM), 동시 연결 수(CPS)를 기준으로 권한에 따른 차등적인 자원 할당과 하위 서비스 보호가 가능해졌습니다.