AWS Machine Learning Blog

AWS는 다중 계정 환경에서 Anthropic Claude 등 외부 모델의 구독 및 권한 관리를 간소화하는 'Managed Entitlements' 기능을 소개했습니다. 중앙 관리 계정에서 한 번만 구독하면 AWS License Manager를 통해 조직 내 여러 멤버 계정에 모델 접근 권한을 안전하고 효율적으로 배포할 수 있습니다.

생성형 AI가 실험 단계를 넘어 실제 프로덕션 환경으로 전환됨에 따라, LLM 추론의 안정성과 비용 효율성을 확보하기 위한 탄력적 패턴 구현이 중요해졌습니다. 본 기사는 Amazon Bedrock의 교차 리전 추론(CRIS)을 포함하여 쿼터 제한과 트래픽 급증에 대응할 수 있는 단계별 아키텍처 전략을 다룹니다.

Outpost VFX는 단일 GPU 환경의 한계를 극복하기 위해 AWS EC2 P5 인스턴스와 PyTorch DDP 기술을 도입했습니다. 이를 통해 AI 모델 학습 속도를 8배 높였으며, 고해상도 데이터 처리를 위한 확장성과 보안성을 동시에 확보했습니다.

IBS 소프트웨어는 화물 물류 이메일의 복급한 정보를 추출하기 위해 Amazon Nova Pro 모델의 지식을 Nova Lite로 전이하는 증류 기술을 도입했습니다. 이를 통해 95% 이상의 F1-Score를 유지하면서도 운영 비용을 기존 대비 14분의 1로 대폭 낮추는 데 성공했습니다.

물류 플랫폼 Parcel Perform는 Amazon Nova 모델을 미세 조정하여 이메일 내 복잡한 데이터 추출 시 발생하는 환각 현상과 높은 비용 문제를 해결했습니다. SageMaker AI와 LoRA 기술을 활용해 정확도를 16.6%p 높이면서도 추론 지연 시간은 30% 이상 단축하고 운영 비용은 50% 절감하는 성과를 거두었습니다.

이 글은 Amazon QuickSight의 대시보드, 분석, 데이터셋 등 핵심 자산을 보호하기 위한 백업 전략 설계 및 구현 방법을 설명합니다. AssetsAsBundle API를 사용하여 자산을 내보내고, 이를 통해 예기치 못한 삭제나 지역적 장애에 대비한 재해 복구(DR) 체계를 구축하는 방안을 제시합니다.

Amazon Bedrock을 활용해 스캔된 문서에서 이름과 사진을 매칭하는 효율적인 2단계 파이프라인 구축 사례를 소개합니다. Nova 2 Lite가 데이터 추출을 담당하고 Claude Sonnet 4.6이 공간적 추론을 수행함으로써, 높은 정확도를 유지하면서도 비용을 기존 대비 약 33% 절감할 수 있음을 입증했습니다.

LLM을 활용한 데이터 분석 에이전트 구축 시 발생할 수 있는 테넌트 간 데이터 노출 문제를 해결하기 위해, 프롬프트 기반의 필터링 대신 아키텍처 수준의 보안 계층을 도입했습니다. AWS SigV4 서명, 세만틱 검증, Split-Plane SQL을 통해 LLM의 오류와 상관없이 결정론적인 데이터 격리를 구현한 것이 핵심입니다.

이 글은 Amazon Bedrock의 데이터 자동화 기능을 사용하여 PDF 형태의 의료 보험 청구서에서 구조화된 데이터를 추출하고, AI 에능트가 이를 AWS HealthLake와 대조하여 검증 및 FHIR 표준 데이터로 변환하는 자동화 파이프라인 구축 사례를 다룹니다. 이를 통해 수동 작업에 따른 비용과 오류를 줄이고 데이터의 정확성을 높이는 엔드투엔드 워크플로우를 설명합니다.

AI 에이전트는 전통적인 소프트웨어와 달리 오류 없이도 잘못된 결과를 내놓는 특성이 있어 프로덕션 환경에서의 디버깅이 매우 어렵습니다. Amazon Bedrock AgentCore Observability는 메트rypt, 트레이스, 구조화된 로그를 통해 에이전트의 추론 과정과 도구 사용을 투명하게 공개하여 근본 원인 파악을 지원합니다.