모레, 이기종 AI 가속기 하나처럼 활용하는 ‘토큰 팩토리 OS’ 제시

(aitimes.com)

AI타임스2026년 9월 16일AI 산업

AI 인프라 전문 기업 모레가 AI 데이터센터의 운영 패러다임을 전환할 '토큰 팩토리 OS'를 공개하며, 이기종 가속기를 하나의 자원 풀로 통합해 토큰 생산 효율을 극대화하는 혁신적인 분산 추론 기술을 제시했습니다.

이 글의 핵심 포인트

1모레, 'AI 인프라 서밋 2026'에서 '토큰 팩토리' 패러다임 제시
2특정 GPU나 추론 엔진에 종속되지 않는 '토큰 팩토리 OS' 공개
3이기종 가속기를 하나의 자원 풀처럼 활용하는 기술 구현
4AI 데이터센터의 토큰 생산 효율 극대화를 목표로 함
5이기종 가속기 기반의 분산 추론 기술 소개

이 글에 대한 공공지능 분석

왜 중요한가?

GPU 수급 불균형과 비용 급증 속에서 특정 하드웨어에 종속되지 않는 유연한 인프라 운영 방식은 AI 서비스의 경제성을 결정짓는 핵심 요소가 될 것입니다.

어떤 배경과 맥락이 있나?

현재 AI 산업은 엔비디아 GPU 의존도가 매우 높으며, 이를 대체하거나 보완할 다양한 AI 가속기(NPU 등)의 등장이 가속화되고 있는 상황입니다.

업계에 어떤 영향을 주나?

하드웨어 계층과 소프트웨어 계층을 분리하는 추상화 기술이 발전함에 따라, 인프라 효율을 중시하는 AI 모델 개발사와 클라우드 제공업체의 경쟁 구도가 변화할 것입니다.

한국 시장에 어떤 시사점이 있나?

국산 NPU 등 이기종 가속기 생태계를 보유한 한국 기업들에게 모레의 기술은 하드웨어의 한계를 넘어 글로벌 인프라 시장으로 진입할 수 있는 중요한 소프트웨어적 기회를 제공합니다.

이 글에 대한 큐레이터 의견

모레의 '토큰 팩토리 OS'는 AI 인프라의 고질적인 문제인 '하드웨어 종속성'을 해결하려는 매우 전략적인 접근입니다. AI 서비스 창업자들에게 이는 특정 GPU 수급 상황에 휘둘리지 않고, 다양한 가속기를 활용해 추인 비용을 최적화할 수 있는 인프라 유연성을 확보할 수 있다는 점에서 강력한 기회입니다.

다만, 이기종 가속기를 하나의 풀로 통합하는 과정에서 발생하는 소프트웨어 오버헤드와 분산 추론의 복잡성 증가는 무시할 수 없는 리스크입니다. 하드웨어 추상화 계층이 추가됨으로써 발생하는 지연 시간(Latency)이 실제 서비스 품질에 미칠 영향을 면밀히 따져봐야 합니다. 따라서 창업자들은 이 기술이 제공하는 비용 효율성과 실제 추론 성능 사이의 트레이드오프를 검토하여, 실시간 응답이 중요한 서비스인지 혹은 비용 절감이 우선인 서비스인지에 따라 인프라 채택 전략을 차별화해야 합니다.

원문 보기 →