vLLM-Omni를 SageMaker AI에서 사용하여 이미지와 비디오 생성하기 – 2부

(aws.amazon.com)

AWS Machine Learning Blog2026년 9월 28일AI 모델

vLLM-Omni를 SageMaker AI에서 사용하여 이미지와 비디오 생성하기 – 2부

Amazon SageMaker AI와 vLLM-Omni를 활용해 텍스트를 이미지와 비디오로 변환하는 파이프라인 구축 방법을 소개하며, 모델 특성에 따른 실시간 및 비동기 추론 엔드포인트 분리 운영의 핵심을 다룹니다.

이 글의 핵심 포인트

1AWS vLLM-Omni DLC를 사용하여 FLUX.2-klein-4B와 Wan2.1-VACE-1.3B 모델을 각각 다른 엔드포인트에 배포
2이미지 생성은 즉각적인 응답이 필요한 만큼 SageMaker AI 실시간 엔드포인트를 활용
3비디오 생성은 긴 처리 시간과 대용량 페이로드를 고려하여 SageMaker 비동기 추론 엔드포인트를 사용
4생성된 이미지를 S3에 업로드하고 비동기 요청을 처리한 뒤, 최종 MP4 파일을 S3에서 가져오는 워크플로우 구축
5ml.g6.xlarge 및 ml.g6e.xlarge 인스턴스 타입을 사용하여 모델별 최적화된 컴퓨팅 자원 할당

이 글에 대한 공공지능 분석

왜 중요한가?

멀티모달 생성 AI 모델을 서비스화할 때, 모델의 연산 특성(지연 시간, 페이로드 크기)에 따라 추론 방식을 분리하는 최적화된 아키텍처 설계 능력이 서비스의 비용 효율성과 사용자 경험을 결정하기 때문입니다.

어떤 배경과 맥락이 있나?

최근 vLLM-Omni와 같은 오픈 소스 모델의 발전으로 텍스트를 넘어 이미지, 비디오까지 아우르는 멀티모달 생성 기술이 급격히 확산되고 있으며, 이를 안정적으로 서빙하기 위한 클라우드 네이티브 인프라 수요가 증가하고 있습니다.

업계에 어떤 영향을 주나?

기업들은 단일 모델이 아닌, 작업별로 특화된 엔드포인트를 조합하는 '모듈형 추론 아키텍처'를 채택함으로써 인프라 비용을 최적화하고 생성 품질을 극대화하는 전략을 취할 수 있게 됩니다.

한국 시장에 어떤 시사점이 있나?

생성형 AI 기반의 콘텐츠 스타트업들은 AWS와 같은 클라우드 서비스를 활용해 복잡한 인프라 관리 부담을 줄이면서도, 실시간성과 대용량 처리를 동시에 만족하는 고도화된 멀티모달 서비스를 빠르게 시장에 출시할 수 있습니다.

이 글에 대한 큐레이터 의견

이 아키텍처의 핵심은 모델의 연산 특성에 맞춰 실시간(Real-time)과 비동기(Asynchronous) 추론을 분리한 점에 있습니다. 이미지 생성처럼 즉각적인 피드백이 필요한 작업과 비디오 생성처럼 긴 처리 시간이 필요한 작업을 분리함으로써, 클라이언트의 연결 유지 부담을 줄이고 시스템 안정성을 높인 것은 매우 영리한 설계입니다.

하지만 스타트업 입장에서는 이러한 분리된 엔드포인트 운영이 관리 복잡도와 비용 상승을 초래할 수 있다는 점을 간과해서는 안 됩니다. 각 엔드포인트마다 별도의 인스턴스(ml.g6, ml.g6e 등)를 유지해야 하므로, 트래픽이 불규칙한 초기 단계에서는 인프라 비용 최적화가 큰 도전 과제가 될 수 있습니다. 따라서 서비스 규모에 맞춰 서버리스 추론이나 자동 확장(Auto-scaling) 전략을 정교하게 설계하는 것이 필수적입니다.

원문 보기 →