AWS Machine Learning Blog

BMW 그룹은 클라우드 비용 누수를 막기 위해 자체 FinOps 시스템인 CLESA를 운영하며, AWS 서버리스 아키텍처를 통해 매달 30억 행에 달하는 비용 데이터를 처리합니다. 이 시스템은 Prophet 모델을 활용해 일일 비용을 예측하고, 예상 범위를 벗어나는 비용 급증 발생 시 계정 소유자에게 즉각적인 알림을 보냅니다.

Posit의 데이터 과학용 IDE인 Positron이 Amazon SageMaker AI에 통합되어, 데이터 접근부터 모델 개발, 배포까지의 전 과정을 AWS 환경 내에서 단일화할 수 있습니다. 이를 통해 데이터 과학자는 별도의 자격 증명 관리 없이 Athena, S3 등 AWS 서비스에 직접 접근하고, Amazon Bedrock을 통한 보안이 강화된 AI 코딩 지원을 받을 수 있습니다.

Benchling은 AI 에이전트가 생성한 과학적 코드를 실행할 때 발생할 수 있는 데이터 유출 및 테넌트 간 간섭 문제를 해결하기 위해 Amazon Bedrock AgentCore 기반의 보안 아키텍처를 구축했습니다. 별도의 '신뢰할 수 없는 코드 계정'과 DNS 방화벽, VPC 엔드포인트를 결합하여 네트워크 격리를 극대화하고 보안 사고 없이 대규모 코드를 실행하고 있습니다.

EXL은 의료 기록의 복잡성과 비정형성 문제를 해결하기 위해 AWS 인프라 기반의 의료 지능형 문서 처리(IDP) 솔루션을 개발했습니다. 이 솔루션은 Xtrakto.AI와 도메인 특화 LLM을 결합하여 의료 데이터를 구조화된 정보로 변환하고 심사 프로세스를 자동화합니다.

Amazon SageMaker AI는 2026년 상반기 동안 관리형 엔드포인트와 HyperPod Inference를 중심으로 총 13개의 신규 기능을 출시했습니다. 특히 추론 권장 기능과 용량 인식 인스턴스 풀 도입을 통해 GPU 자원 부족 문제를 해결하고, 모델 배포에 필요한 벤치마킹 및 인프라 최적화 과정을 자동화했습니다.

Amazon Bedrock가 Moonshot AI의 최신 모델인 Kimi K3를 지원하기 시작했습니다. K3는 2액티브 2.8조 개의 파라미터와 100만 토큰의 컨텍스트 창을 제공하며, 특히 Bedrock 최초로 프롬프트 캐싱을 지원하여 비용과 지연 시간을 최적화합니다.

이 기사는 복잡한 멀티 모델 AI 에이전트 운영을 위해 Amazon ECS/Fargate 대신 Amazon Bedrock AgentCore runtime으로 마이그레이션하는 방법을 다룹니다. 이를 통해 개발자는 인프라 관리 대신 에이전트 로직 개발에 집중할 수 있으며, 기존 프레임워크와 모델을 그대로 활용하면서도 확장성, 보안, 관측성을 확보할 수 있습니다.

AWS는 Amazon Bedrock AgentCore 런타임의 대규모 업데이트를 통해 메모리 재할당 기능과 예측 가능한 시작 시간을 도입했습니다. 이를 통해 개발자는 에이전트의 작업 부하에 관계없이 비용을 최적화하고, 대규모 운영 환경에서도 안정적인 응답성을 확보할 수 있습니다.

코딩 에점트가 최신 AI 모델 배포 시 구식 정보를 바탕으로 잘못된 인프라 설정을 하여 비용 낭비를 초래할 수 있음을 지적합니다. 이를 해결하기 위해 Hugging Face Skills를 통해 최신 배포 지식을 에이전트에 주입함으로써, SageMaker AI 상에 오토스케일링과 모니터링이 포함된 완성도 높은 엔드포인트를 구축하는 방법을 설명합니다.

AWS가 발표한 이 게이트웨이는 기존 Kubernetes 로드 밸런서가 인지하지 못하는 GPU 내부 지표(KV 캐시, LoRA 상태 등)를 활용해 추론 요청을 최적의 포드로 전달합니다. 별도의 애플리케이션 수정 없이 EKS 애드온 설치만으로 저지연 추론 환경을 구축할 수 있습니다.

AWS는 대규모 채용을 관리하는 리더를 위해 AI 기반 채용 솔루션인 'Amazon Connect Talent'를 출시했습니다. 이 솔루션은 AI 에이전트가 24시간 인터뷰와 평가를 수행하여 채용 병목을 해소하고, 채용 담당자에게는 데이터 기반의 투명한 평가 결과와 대시보드를 제공하여 채용의 속도와 품질을 동시에 높입니다.

이 글은 Amazon Bedrock Knowledge Bases에서 RAG 구현을 위해 선택할 수 있는 세 가지 벡터 스토어 백엔드를 비교 분석합니다. 고성능 검색을 위한 OpenSearch, 관계형 데이터와 결합 가능한 Aurora PostgreSQL, 그리고 비용 절감에 특화된 S3 Vectors의 각각의 특징과 적합한 유스케이스를 다룹니다.

이 글은 Amazon QuickSight를 활용하여 GitHub와 GitLab의 활동 데이터를 자동으로 수집, 처리, 시각화하는 서버리스 파이프라인 구축 방법을 소개합니다. AWS Step Functions와 Lambda를 통해 데이터 변경 사항을 감지하고 대규모 저장소도 효율적으로 처리할 수 있는 자동화된 아키텍처를 제안합니다.

Wood Mackenzie는 AI 에이전트의 상용화 장애물인 인프라 중복 구축 문제를 해결하기 위해 Amazon Bedlar AgentCore 기반의 공유 플랫폼 APEX를 구축했습니다. 이 플랫폼은 인증, 가드레일, 관측성 등 공통 인프라를 통합 관리하여 각 팀이 모델이나 프레임워크에 구애받지 않고 에이전트 개발에만 집중할 수 있는 환경을 제공합니다.

독일의 대형 보험 중개사 MRH Trowe는 보안과 데이터 거버넌스를 유지하면서도 직원들이 직접 AI 에이전트를 구축할 수 있는 자가 서비스 환경을 구축했습니다. Strands Agents, Amazon Bedrock AgentCore, LibreChat을 결합하여 400여 명의 직원에게 안전하고 비용 효율적인 AI 활용 능력을 제공합니다.

Amazon Quick의 MCP 툴 호출 시 발생할 수 있는 보안 취약점을 해결하기 위해, OIDC JWT 클레임을 활용한 4단계 다중 게이트 인증 패턴을 소개합니다. 이 패턴은 MFA, 국가 제한, 그룹 기반 RBAC, 툴 단위 권한 확인을 순차적으로 수행하여 정교한 보안 통제를 가능하게 합니다.

산업 현장의 위험 시나리오는 실제 데이터를 수집하기에 매우 위험하고 비용이 많이 드는 한계가 있습니다. 본 기사는 확산 모델을 이용해 실제 배경에 합성 인물을 정교하게 삽입하는 기술과 자동 라벨링을 결합하여, 데이터 부족 문제를 해결하고 AI 모델의 정확도를 획기적으로 높이는 파이프라인을 제시합니다.

헬스케어 및 생명과학 분야 AI 에이전트가 전문적인 의사결정 기준을 잘못 적용하는 문제를 해결하기 위해 11개 도메인을 아우르는 38개의 오픈 소스 에이전트 스킬이 공개되었습니다. 이 스킬들은 단순한 정보 검색(RAG)이나 모델 미세 조정(Fine-tuning) 대신, 구조화된 마크다운 형식을 통해 AI에게 정교한 추론 절차와 도구 사용법을 제공하여 정확도를 최대 86%까지 향상시킵니다.

대규모 분산 학습 시 발생하는 GPU 장애와 동기식 체크포인팅으로 인한 유휴 시간을 줄이기 위해 NVIDIA NVRx와 Amazon EKS를 결합한 솔루션을 소개합니다. NVRx의 비동기 체크포인팅과 프로세스 재시작 기능을 통해 학습 중단 없이 장애에 대응하며 GPU 자원 활용도를 높일 수 있습니다.

Amazon Bedrock AgentCore는 에이전트의 실행 기록(traces)을 분석하여 시스템 프롬프트와 설정을 자동으로 개선하는 최적화 기능을 제공합니다. 에이전트 리플렉터(Reflector)가 성공과 실패 사례를 비교 분석하여 최적의 구성 변경안을 제안하며, 가드레일을 통해 안전성을 검증합니다.

이 글은 Amazon Bedrock Data Automation(BDA)을 사용하여 대규모 문서에서 개인정보를 자동으로 식별하고 삭제하는 서버리스 아키텍처를 소개합니다. 기존의 패턴 매칭 방식 대신 생성형 AI의 문맥 이해 능력을 활용해, 복잡한 양식에서도 정확하게 민감 정보만 골라내어 익명화하는 기술적 방안을 다룹니다.

Amazon Bedrock은 동일한 컨텍스트를 반복 사용할 때 비용과 지연 시간을 최적화할 수 있는 프롬프트 캐싱 기능을 도입했습니다. 이 기능은 cachePoint 마커를 통해 이전 요청의 처리된 토큰을 재사용함으로써, 대규모 문서 분석이나 에이전트 워크플로우에서 비용을 획기적으로 낮춰줍니다.

이 글은 Amazon SageMaker의 서버리스 기능을 사용하여 Qwen3-8B 모델을 SFT(지도 미세 조정)와 RLVR(검증 가능한 보상을 통한 강화 학습) 기술로 최적화하여 제품 태깅 시스템을 구축하는 과정을 설명합니다. 범용 LLM 대신 특정 목적에 특화된 소형 모델을 활용함으로써, 대량의 데이터를 처리할 때 발생하는 비용을 절감하고 태깅의 정확도와 일관성을 높이는 전략을 다룹니다.

Amazon SageMaker AI가 학습 및 프로세싱 작업 시 사용자가 지정한 우선순위에 따라 가용 가능한 GPU 인스턴스를 자동으로 찾아주는 '인스턴스 선호도 목록' 기능을 출시했습니다. 이를 통해 특정 GPU 자원 부족 시 발생하는 대기 시간과 수동 재시도 프로세스를 제거하여 AI 모델 개발의 연속성을 보드합니다.