AWS Machine Learning Blog

Solv Labs는 AI 에이전트가 자율적으로 비용을 지불할 때 발생할 수 있는 권한 오남용과 금융 리스크를 방지하기 위해 ORACLE 정책 엔진과 ICME의 검증 레이어를 결합한 시스템을 개발했습니다. 이 시스템은 AWS Nitro Enclave와 x402 표준을 활용하여 모든 결제 내역에 대해 실시간 승인, 무결성 증명 및 감사 가능한 기록을 4초 이내에 생성합니다.

Amazon SageMaker HyperPod에 Curvine 기반의 L2 캐시 계층을 추가하여 GPU와 CPU를 넘어 공유 NVMe까지 KV 캐시를 확장하는 아키텍처를 소개합니다. 이를 통해 대규모 LLM 추란 시 발생하는 비용과 지연 시간(TTFT) 문제를 해결하고, 저렴한 인스턴스에서도 높은 성능을 유지할 수 있습니다.

AWS와 OpenAI가 협력하여 보안 전문가용 AI 모델인 Daybreak Red와 Daybreak Blue를 Amazon Bedrock에 출시했습니다. 이 모델들은 코드 분석부터 취약점 탐지, 패치 생성까지 사이버 방어의 전 과정을 가속화하며, 강력한 클라우드 거버넌스 환경을 통해 민감한 데이터 보안을 보장합니다.

건설 산업의 디지털 전환을 가속화하기 위해, ONESTRUCTION은 데이터가 희소한 IDS(정보 전달 사양) 분야에 특화된 AI 모델 Ishigaki-IDS를 개발했습니다. 이들은 AWS 인프라를 기반으로 합성 데이터 생성부터 검증 가능한 보상을 활용한 강화학습까지 이어지는 정교한 3단계 학습 전략을 통해 전문적인 XML 구조와 용어를 정확히 처리하는 성과를 거두었습니다.

사진 비즈니스 플랫폼 픽시셋은 Amazon Bedrock을 활용해 이미지의 대체 텍스트(alt-text)를 자동 생성하는 AI 기능을 도입했습니다. 창작자의 영역을 침범하지 않고 단순 반복 업무인 메타데이터 작성을 자동화함으로써, 출시 16개월 후에도 35%라는 높은 기능 사용률을 유지하고 있습니다.

First Orion은 분산형 아키텍처 도입과 서비스 확대로 인해 발생한 QA 병목 현상을 해결하기 위해 Amazon Nova Act를 도입했습니다. 기존의 취약한 스크립트 기반 자동화 대신 AI 에이전트를 활용하여 개발 속도에 맞춘 효율적인 품질 보증 체계를 구축했습니다.

Anthropic은 Claude Code 및 Desktop 사용 시 인증, 모델 접근 권한, 비용 추적 등을 중앙 집중식으로 제어할 수 있는 'Claude apps gateway'의 AWS 배포 아키텍처를 공개했습니다. 이 게이트웨이는 Amazon Bedrock과 연동되어 기업이 AI 사용량을 관리하고 보안 정책을 일관되게 적용할 수 있도록 돕습니다.

Amazon SageMaker AI Spaces add-on은 Amazon EKS 환경에서 JupyterLab과 Code Editor 같은 인터랙적 IDE를 통합 운영할 수 있게 해줍니다. 이를 통해 별도의 인프라 구축 없이 기존 클러스터의 GPU와 IAM 권한을 공유하며, 워크로드 통합을 통해 GPU 활용도를 최대 30% 높이고 비용을 최적화할 수 있습니다.

nOps는 기존 API 중심 인프라의 한계로 인한 응답 지연과 운영 복잡성을 해결하기 위해 Amazon Bedrock AgentCore 기반의 새로운 에이전트 아키텍처로 전환했습니다. 이를 통해 데이터 처리 효율을 높이고 개발 속도를 75% 가속화하며, 클라우드 비용 최적화라는 핵심 도메인 로직에 집중할 수 있는 환경을 구축했습니다.

코히어 헬스는 Amazon Bedrock AgentCore를 기반으로 'Cohere Policy Studio'를 구축하여, PDF 등 비정형 데이터로 존재하는 의료 정책을 기계 판독 가능한 구조적 데이터로 전환하고 있습니다. 이를 통해 복잡한 사전 승인 프로세스를 자동화하고, 강화되는 의료 규제와 실시간 승인 요구사항에 대응하는 확장 가능한 에이전트 시스템을 구현했습니다.

TReNDS 센터는 Amazon Bedrock을 활용해 CloudWatch 로그에서 에러를 감지하고, GitHub 소스 코드와 연동하여 근본 원인을 자동으로 분석하는 시스템을 구축했습니다. 이 아키텍처는 단순 에러 요약을 넘어 AI 에이전트가 직접 도구를 사용하여 조사 과정을 수행함으로써 엔지니어의 수동 조사 시간을 획기적으로 단축합니다.

AWS는 복잡한 타이브레이커 규칙이 적용되는 NHL 플레이오프 진출 여부를 자동으로 판별하기 위해 제약 프로그래밍(CP) 기반의 솔루션을 개발했습니다. 이 시스템은 0-day solver와 n-day lookahead 방식을 결합하여 수많은 경기 결과 시나리오를 정확하고 빠르게 계산해냅니다.

Amazon Bedrock AgentCore는 AI 에이전트의 실행 궤적(trajectory)을 분석하여 보안을 강화하는 '시간 기반 정책' 기능을 선보였습니다. 이 기능은 개별 요청의 안전성을 넘어, 이전 작업과의 연관성을 평가함으로써 환각으로 인한 데이터 변조나 권한 남용 같은 복잡한 보안 위협을 게이트웨이 수준에서 차단합니다.

Amazon Bedrock AgentCore 게이트류가 사용자별로 AI 트래픽을 정교하게 관리할 수 있는 속도 제한(Rate Limiting) 기능을 출시했습니다. 개발자는 요청 수(RPS/RPM), 토큰 처리량(TPM), 동시 연결 수(CPS)를 기준으로 권한에 따른 차등적인 자원 할당과 하위 서비스 보호가 가능해졌습니다.

Amazon Bedrock AgentCore는 개별 요청의 적법성을 넘어, 에이전트가 수행하는 일련의 작업 흐름을 감시하여 보안 위협과 비용 초과를 방지하는 'Temporal Policies' 기능을 새롭게 선보였습니다. 이는 새로운 정책 언어인 Dogwood를 통해 에이전트의 행동 패턴을 인프라 계층에서 결정론적으로 제어함으로써 AI 에이전트 운영의 신뢰성을 높이는 데 목적이 있습니다.

개발자 워크스테이션의 로컬 OTel 컬렉터를 통해 Codex의 사용 지표를 Amazon CloudWatch로 전송하여 조직 단위의 모니터링 대시보드를 구축하는 방법을 다룹니다. 이 방식은 모델 요청 경로에 프록시를 추가하지 않으면서도 사용자, 팀, 비용 센터별로 AI 에이전트의 도입 현황과 성능을 정밀하게 추적할 수 있게 해줍니다.

글로벌 기업의 데이터 거주성 요구사항을 충족하기 위해 Amazon Bedrock의 Mantle 엔드포인트와 클래식 API를 활용한 단일 리전 구현 방안을 다룹니다. 지역에 따라 Mantle의 네이티브 라우팅이나 애플리케이션 추론 프로필을 사용하여 데이터가 지정된 리전을 벗어나지 않도록 제어하는 구체적인 방법을 설명합니다.

Amazon Bedrock의 자동 추론(Automated Reasoning)은 통계적 확률이 아닌 수학적 논리로 AI 답변을 검증하는데, 이 과정의 높은 난이도를 해결하기 위해 6가지 전용 '에이전트 스킬'을 소개합니다. 이를 통해 개발자는 코딩 에이전트를 활용하여 정책 생성부터 테스트, 배포, 검증에 이르는 복잡한 워크플로우를 자동화할 수 있습니다.

PDI Technologies는 개발 인력 부족으로 방치되던 사내 소규모 도구들을 위해 자연어 기반의 앱 배포 플랫폼인 'PDI Brew'를 개발했습니다. 이 시스템은 AI 에이전트가 사용자의 의도를 파악해 구조화된 매니페스트를 생성하면, AWS Lambda가 이를 바탕로 필요한 클라우드 리소스를 자동으로 프로비저닝하는 구조로 작동합니다.

Amazon SageMaker Python SDK v3가 LLM 추론 최적화를 위한 통합 기능을 출시했습니다. 이제 개발자는 노트북 환경에서 직접 엔드포인트를 벤치마킹하고, 비용 대비 성능이 최적화된 인스턴스 설정을 추천받아 즉시 배포할 수 있습니다.

LendingTree는 복잡한 대출 과정을 돕기 위해 Supervisor와 두 개의 전문 Worker(교육 및 매칭)로 구성된 멀티 에이전트 시스템을 구축했습니다. Amazon Bedrock의 모델과 LangGraph를 활용해 계획-실행 패턴을 구현했으며, 보안 준수와 비용 최적화를 위해 가드레일 적용 및 멀티 모델 전략을 사용했습니다.

모바일아이는 방대한 데이터 수집 과정에서 발생하는 반복적인 기술 문의를 해결하기 위해 AI 지원 에이전트를 도입했습니다. Amazon Bedrock AgentCore와 MCP(Model Context Protocol)를 활용해 온프레미스 시스템과 클라우드를 연결함으로써, 인프라 관리 부담 없이 응답 시간을 90% 줄이고 정확도 95% 이상을 달성했습니다.

이 글은 클라우드에 호스팅된 AI 에이전트가 사용자의 로컬 컴퓨터 내 MCP(Model Context Protocol) 도구에 접근할 수 있도록 하는 'MCP 브리지' 아키텍처를 소개합니다. 웹소켓과 네이티브 메시징을 활용해 원격 에이전트와 로컬 서버 간의 통신 격차를 해결하며, 금융 분석가처럼 로컬 파일을 다루는 사용자에게 강력한 AI 자동화 환경을 제공하는 방법을 설명합니다.

Amazon Bedrock AgentCore의 'harness' 기능을 n8npm에서 사용할 수 있는 새로운 오픈소스 커뮤니티 노드가 공개되었습니다. 이 노드를 통해 개발자는 별도의 복잡한 코드 작성 없이도 메모리, 도구 활용, 오케스트레이션 기능이 통합된 고성능 AI 에이전트를 n8n 워크플로우 내에서 구축하고 관리할 수 있습니다.