AWS Machine Learning Blog

AWS GovCloud(US) 환경의 Amazon Bedrock에 NVIDIA Nemotron 3 시리즈와 OpenAI GPT OSS 모델이 새롭게 추가되었습니다. 이를 통해 미 정부 기관 및 규제 산업 종사자들은 보안과 컴플라이언스를 유지하면서도 최신 오픈 웨이트 모델을 활용해 고성능 AI 애플리케이션을 구축할 수 있게 되었습니다.

AI 에이전트 간 개별 연결로 발생하는 운영 부담과 보안 리스크를 줄이기 위해 단일 진입점 역할을 하는 A2A 게이트웨이 구축 방법을 다룹니다. AWS의 서버리스 서비스를 활용하여 에이전트 검색, 권한 관리, 데이터 라우팅을 통합하는 3계층 아키텍처를 제안합니다.

Amazon Bedrock AgentCore Memory는 네임스페이스 기반의 데이터 격리를 넘어, 메타데이터를 활용한 구조화된 필터링 기능을 도입했습니다. 이를 통해 AI 에이전트는 단순 유사도 검색의 한계를 극복하고 시간, 상태, 우선순위 등 구체적인 속성을 기준으로 정보를 정밀하게 추출할 수 있게 되었습니다.

이 기사는 인간 뇌의 해마 기능을 모방하여 복잡한 다단계 추론이 가능한 새로운 RAG 프레임워크인 HippoRAG의 AWS 기반 구현 방법을 소개합니다. Amazon Bedrock과 Neptune을 활용해 지식 그래프를 구축하고 Personalized Pagelar PageRank 알고리즘을 통해 문서 간 연결된 정보를 효율적으로 검색하는 아키텍처를 제시합니다.

인스크라이브는 아마존 베드락을 통해 복잡한 금융 문서 사기를 초 단위로 탐지하는 에이전틱 AI 시스템을 구축했습니다. 이 시스템은 다양한 파운데이션 모델을 적재적소에 배치하여 기존 수동 검토 대비 20배 빠른 속도로 정교한 AI 생성 위조 서류를 식별해냅니다.

Amazon Bedrock Model Profiler는 흩어져 있는 모델의 성능, 가격, 지역별 가용성 및 할당량 정보를 하나의 인터페이스로 통합하여 제공하는 오픈 소스 도구입니다. AWS Step Functions와 Lambda를 활용한 자동화된 파이프라인을 통해 매일 최신 데이터를 업데이트하며, 개발자가 데이터에 기반해 최적의 모델을 신속하게 선택할 수 있도록 돕습니다.

Amazon SageMaker AI는 확산 기반 단백질 설계 모델인 BoltzGen을 위한 엔드투엔드 GPU 인프라 관리 솔루션을 제공하여, 복잡한 컴퓨팅 자원 관리 없이도 대규모 단백질 설계를 가능하게 합니다. 사용자는 실험 규모에 따라 단순 배치 실행 또는 캐싱 기능이 포함된 오케스트레이션 파이프라인을 선택하여 비용과 효율성을 최적화할 수 있습니다.

AWS는 Anthropic의 Claude Fable 5 모델을 Amazon Bedrock에 다시 도입하며, 사이버 보안 오남용을 막기 위한 강화된 가드레일과 안전 장치를 적용했습니다. 이번 업데이트는 최신 AI 모델의 강력한 기능을 제공하면서도, 적대적 공격자에게 취력점 연구 능력을 제공하지 않도록 방어자와 공격자 사이의 균형을 맞추는 데 집중하고 있습니다.

Anthropic의 차세대 모델인 Claude Sonnet 5가 Amazon Bedrock과 AWS 내 Claude Platform을 통해 공식 출시되었습니다. 이 모델은 Opus급에 근접한 지능을 유지하면서도 비용과 속도 면에서 최적화되어, 코딩, 에이전트 자동화 및 복잡한 데이터 분석 작업에 특화된 성능을 제공합니다.

Amazon Bedrock AgentCore에서 AG-UI 프로토콜을 사용하여 인터랙티브한 요소(차트, 공유 상태 등)를 포함한 생성형 UI 에이전트를 구축하는 방법을 다룹니다. FAST 템플릿과 CopilotKit을 결합하여 복잡한 에이전트 프론트엔드 개발을 표준화하고 효율화할 수 있는 아키텍처를 제시합니다.

AWS는 다중 계정 환경에서 Anthropic Claude 등 외부 모델의 구독 및 권한 관리를 간소화하는 'Managed Entitlements' 기능을 소개했습니다. 중앙 관리 계정에서 한 번만 구독하면 AWS License Manager를 통해 조직 내 여러 멤버 계정에 모델 접근 권한을 안전하고 효율적으로 배포할 수 있습니다.

생성형 AI가 실험 단계를 넘어 실제 프로덕션 환경으로 전환됨에 따라, LLM 추론의 안정성과 비용 효율성을 확보하기 위한 탄력적 패턴 구현이 중요해졌습니다. 본 기사는 Amazon Bedrock의 교차 리전 추론(CRIS)을 포함하여 쿼터 제한과 트래픽 급증에 대응할 수 있는 단계별 아키텍처 전략을 다룹니다.

Outpost VFX는 단일 GPU 환경의 한계를 극복하기 위해 AWS EC2 P5 인스턴스와 PyTorch DDP 기술을 도입했습니다. 이를 통해 AI 모델 학습 속도를 8배 높였으며, 고해상도 데이터 처리를 위한 확장성과 보안성을 동시에 확보했습니다.

IBS 소프트웨어는 화물 물류 이메일의 복급한 정보를 추출하기 위해 Amazon Nova Pro 모델의 지식을 Nova Lite로 전이하는 증류 기술을 도입했습니다. 이를 통해 95% 이상의 F1-Score를 유지하면서도 운영 비용을 기존 대비 14분의 1로 대폭 낮추는 데 성공했습니다.

물류 플랫폼 Parcel Perform는 Amazon Nova 모델을 미세 조정하여 이메일 내 복잡한 데이터 추출 시 발생하는 환각 현상과 높은 비용 문제를 해결했습니다. SageMaker AI와 LoRA 기술을 활용해 정확도를 16.6%p 높이면서도 추론 지연 시간은 30% 이상 단축하고 운영 비용은 50% 절감하는 성과를 거두었습니다.

이 글은 Amazon QuickSight의 대시보드, 분석, 데이터셋 등 핵심 자산을 보호하기 위한 백업 전략 설계 및 구현 방법을 설명합니다. AssetsAsBundle API를 사용하여 자산을 내보내고, 이를 통해 예기치 못한 삭제나 지역적 장애에 대비한 재해 복구(DR) 체계를 구축하는 방안을 제시합니다.

Amazon Bedrock을 활용해 스캔된 문서에서 이름과 사진을 매칭하는 효율적인 2단계 파이프라인 구축 사례를 소개합니다. Nova 2 Lite가 데이터 추출을 담당하고 Claude Sonnet 4.6이 공간적 추론을 수행함으로써, 높은 정확도를 유지하면서도 비용을 기존 대비 약 33% 절감할 수 있음을 입증했습니다.

LLM을 활용한 데이터 분석 에이전트 구축 시 발생할 수 있는 테넌트 간 데이터 노출 문제를 해결하기 위해, 프롬프트 기반의 필터링 대신 아키텍처 수준의 보안 계층을 도입했습니다. AWS SigV4 서명, 세만틱 검증, Split-Plane SQL을 통해 LLM의 오류와 상관없이 결정론적인 데이터 격리를 구현한 것이 핵심입니다.

이 글은 Amazon Bedrock의 데이터 자동화 기능을 사용하여 PDF 형태의 의료 보험 청구서에서 구조화된 데이터를 추출하고, AI 에능트가 이를 AWS HealthLake와 대조하여 검증 및 FHIR 표준 데이터로 변환하는 자동화 파이프라인 구축 사례를 다룹니다. 이를 통해 수동 작업에 따른 비용과 오류를 줄이고 데이터의 정확성을 높이는 엔드투엔드 워크플로우를 설명합니다.

AI 에이전트는 전통적인 소프트웨어와 달리 오류 없이도 잘못된 결과를 내놓는 특성이 있어 프로덕션 환경에서의 디버깅이 매우 어렵습니다. Amazon Bedrock AgentCore Observability는 메트rypt, 트레이스, 구조화된 로그를 통해 에이전트의 추론 과정과 도구 사용을 투명하게 공개하여 근본 원인 파악을 지원합니다.