래블업, GPU 넘어 AI 토큰 사용료까지 통합 관리

(zdnet.co.kr)

ZDNet Korea2026년 10월 7일AI 모델

래블업이 GPU 자원 관리를 넘어 AI 모델의 토큰 사용량과 비용까지 통합 관리하는 '컨티넘' 서비스를 공개하며, 인프라 운영을 넘어 AI 서비스 운영 효율화라는 새로운 영역으로 사업을 확장하고 있습니다.

이 글의 핵심 포인트

1래블업, GPU 자원 관리를 넘어 AI 토큰 사용량 및 비용 통합 관리 서비스 '컨티넘' 공개
2'백엔드닷AI'를 통한 GPU 및 AI 가속기 자원의 효율적 배분 및 관리 기능 제공
3'컨티넘'을 통해 여러 AI 모델의 요청을 자동 분산하고 모델별 토큰 사용량/비용 확인 가능
4폐쇄망, 클라우드, 온프레미스 등 하이브리드 환경을 아우르는 통합 관리 체계 지향
5현재 120여 개의 고객사를 확보하며 소규모 팀부터 대규모 기관까지 지원 전략 추진

이 글에 대한 공공지능 분석

왜 중요한가?

AI 도입이 실험 단계를 넘어 실제 서비스로 확산됨에 따라, GPU 자원 확보만큼이나 모델별 토큰 비용과 운영 효율을 관리하는 것이 기업의 핵심 과제로 부상했기 때문입니다.

어떤 배경과 맥락이 있나?

기업들이 다양한 LLM을 활용하면서 발생하는 비용 예측 불가능성과 파편화된 인프라(클라우드, 폐쇄망 등) 관리의 어려움이 해결해야 할 기술적 병목 현상으로 작용하고 있습니다.

업계에 어떤 영향을 주나?

인프라 관리(Infrastructure)에서 모델 운영(ModelOps) 및 비용 최적화(FinOps) 영역으로 AI 솔루션의 가치 사슬이 확장되고 있음을 보여주는 사례입니다.

한국 시장에 어떤 시사점이 있나?

보안이 중요한 폐쇄망 환경과 비용 효율이 중요한 클라우드 환경을 동시에 관리해야 하는 국내 기업들에게 통합 관리 플랫폼은 필수적인 인프라로 자리 잡을 전망입니다.

이 글에 대한 큐레이터 의견

래블업의 행보는 단순한 인프라 제공업체에서 AI 운영 플랫폼(AI Orchestration)으로 진화하려는 전략적 움직임으로 평가됩니다. GPU라는 물리적 자원 관리에서 토큰이라는 논리적 자원 관리로 영역을 넓힘으로써, 기업의 AI 도입 전 과정(End-to-End)을 아우르는 락인(Lock-in) 효과를 노리고 있습니다. 특히 업무 성격에 따라 고성능 모델과 경량 모델을 자동으로 배분하는 기능은 비용 절감이 절실한 스타트업들에게 매우 매력적인 제안입니다.

다만, 이러한 통합 관리 플랫폼이 성공하려면 각 AI 모델 제공사(OpenAI, Anthropic 등)의 API 변화와 비용 정책 변화에 얼마나 유연하게 대응할 수 있는지가 관건입니다. 만약 특정 모델에 대한 종속성이 높아지거나 API 구조가 급변할 경우, 관리 플랫폼의 복잡도만 높이는 리스크가 발생할 수 있습니다. 따라서 창업자들은 이러한 플랫폼을 도입할 때, 단순한 편의성을 넘어 자사 서비스의 모델 교체 유연성(Model Agnostic)을 얼마나 보장할 수 있는지 면밀히 검토해야 합니다.

원문 보기 →