StepFun의 100만 토큰 컨텍스트 MoE 모델 Step 5 Preview, OpenRouter에 등장

(news.hada.io)

StepFun의 새로운 MoE 모델 'Step 5 Preview'가 OpenRouter에 출시되어 100만 토큰의 방대한 컨텍스트와 강력한 에이전트 기능을 저렴한 비용으로 제공하며 AI 에이전트 생태계의 확장을 예고하고 있습니다.

이 글의 핵심 포인트

16,000억 개의 전체 파라미터 중 270억 개를 활성화하는 희소 MoE 구조 채택
2100만 토큰의 입력 컨텍스트와 최대 64,000토큰의 출력 지원
3텍스트, 이미지, 영상 입력을 지원하며 함수 호출 및 JSON 구조화 출력 가능
4100만 토큰당 입력 $1, 출력 $2.70의 경쟁력 있는 가격 정책
5Hermes Agent, Cline 등 대규모 코드베이스를 다루는 에이전트 앱에서 활발히 사용 중

이 글에 대한 공공지능 분석

왜 중요한가?

100만 토큰에 달하는 방대한 컨텍스트 창과 저렴한 비용의 결합은 대규모 코드베이스나 방대한 문서를 분석해야 하는 '에이전트형 AI' 서비스의 경제적 타당성을 획기적으로 높여줍니다. 이는 단순 챗봇을 넘어 복잡한 워크플로우를 수행하는 자율형 에이전트 시대의 가속화를 의미합니다.

어떤 배경과 맥락이 있나?

최근 AI 산업은 단순한 텍스트 생성을 넘어, 도구(Tool)를 사용하고 스스로 추론하며 결과를 개선하는 '에이전틱 워크플로우(Agentic Workflow)'로 패러다임이 전환되고 있습니다. Step 5 Preview는 이러한 흐름에 맞춰 소프트웨어 엔지니어링과 금융 등 전문 지식이 필요한 영역에 특화된 모델로 설계되었습니다.

업계에 어떤 영향을 주나?

고성능 MoE(Mixture of Experts) 모델의 등장으로, 대규모 파라미터를 효율적으로 활용하면서도 추론 비용을 낮출 수 있는 기술적 경로가 명확해졌습니다. 이는 OpenAI나 Google 같은 거대 기업 외에도 특정 도메인에 특화된 고성능 에이전트 서비스를 구축하려는 스타트업들에게 강력한 인프라적 기반을 제공합니다.

한국 시장에 어떤 시사점이 있나?

한국의 법률, 금융, 의료 등 전문 분야 스타트업들은 이 모델의 긴 컨텍스트 창을 활용해 기존에 불가능했던 '문서 전체를 이해하는 전문 에이전트'를 저비용으로 개발할 수 있는 기회를 맞이했습니다. 다만, 특정 모델 제공업체에 대한 높은 의존도는 서비스 안정성 측면에서 리스크가 될 수 있으므로 멀티 모델 전략이 필요합니다.

이 글에 대한 큐레이터 의견

Step 5 Preview의 등장은 AI 서비스의 초점이 '지능의 크기'에서 '작업의 완결성(Agentic capability)'으로 이동하고 있음을 보여주는 중요한 지표입니다. 특히 100만 토큰의 컨텍스트와 높은 캐시 적중률은 대규모 데이터를 반복적으로 참조해야 하는 코딩 에이전트나 분석 도구 개발자들에게 매우 매력적인 경제적 유인책이 됩니다. Hermes Agent나 Cline 같은 앱들이 이미 이 모델을 대량으로 사용하고 있다는 점은 에이전트 생태계의 실질적인 움직임을 증명합니다.

하지만 스타트업 창업자들은 주의해야 할 트레이드오프가 있습니다. 이번 모델은 OpenRouter 내에서 단일 제공업체(StepFun)에 의존하고 있어, 제공업체의 장애가 곧 서비스의 중단으로 이어지는 '단일 장애점(Single Point of Failure)' 리스크를 안고 있습니다. 또한, 600B라는 거대한 전체 파라미터 규모는 추론 비용이 낮더라도 복잡한 작업 시 지연 시간(Latency)의 변동성을 초래할 수 있습니다. 따라서 초기 프로토타이핑에는 이 모델의 강력한 기능을 활용하되, 상용 서비스 단계에서는 모델 스위칭이 가능한 아키텍처를 설계하여 운영 안정성을 확보하는 균형 잡힌 접근이 필수적입니다.

원문 보기 →