코히어, 토큰 종량제 대신 정액제·소형 모델로 B2B 공략

(byline.network)

코히어가 예측 불가능한 토큰 기반 과금의 한계를 극복하기 위해 정액제와 소형 모델 중심의 새로운 B2B 전략을 발표하며 기업용 AI 시장의 비용 효율성과 보안성을 동시에 공략하고 있습니다.

이 글의 핵심 포인트

1토큰 기반 과금 대신 사용자/동시 접속자 기준의 1년 단위 정액 요금제 도입
2업무 난이도에 따라 모델을 자동 배정하는 에이전틱 AI 플랫폼 '노스(North)' 운영
3보안 규제가 엄격한 기업을 위한 폐쇄망(에어갭) 환경 및 내부 데이터센터 구축 지원
4LG CNS 등 국내 기업과 맞춤형 모델 개발 및 플랫폼 연동 프로젝트 진행 중
5올해 연말까지 1조 개 매개변수를 갖춘 새로운 대규모 LLM 출시 예정

이 글에 대한 공공지능 분석

왜 중요한가?

기존 토큰 기반 과금 방식은 대규모 도입 시 비용 예측을 어렵게 만들어 기업의 AI 도입을 주저하게 만드는 주요 원인이었습니다. 코히어의 정액제 전환과 효율적 모델 배정 전략은 기업이 AI 도입의 실질적인 ROI를 증명할 수 있게 돕는 핵심 열쇠입니다.

어떤 배경과 맥락이 있나?

LLM 사용량이 급증함에 따라 인프라 비용 관리가 기업 IT 예산의 최대 화두로 떠올랐으며, 단순한 성능 경쟁을 넘어 운영 효율성과 데이터 보안(Sovereign AI)이 B2B 시장의 핵심 경쟁력으로 부상하고 있습니다.

업계에 어떤 영향을 주나?

모델 크기 중심의 경쟁에서 '비용 대비 성능'과 '에이전틱 워크플로우' 중심으로 패러다임이 전환될 것이며, 이는 특정 도메인에 특화된 소형 언어 모델(SLM) 기술을 보유한 스타트업들에게 강력한 기회가 될 수 있습니다.

한국 시장에 어떤 시사점이 있나?

LG CNS와의 협력 사례처럼 국내 대기업의 폐쇄적 인프라 요구사항에 맞춘 '소버린 AI' 수요가 높으므로, 보안과 비용 효율성을 결합한 맞춤형 모델 개발 및 온프레미스 구축 역량이 중요해질 것입니다.

이 글에 대한 큐레이터 의견

코히어의 전략은 기업이 직면한 가장 큰 페인 포인트(Pain Point)인 '비용 불확실성'과 '데이터 보안'을 정확히 타격하고 있습니다. 특히 업무 난이도에 따라 모델을 차등 배정하는 에이전틱 AI 플랫폼은 인프라 비용을 획기적으로 낮추면서도 성능을 유지할 수 있는 매우 영리한 접근입니다. 이는 스타트업들에게 무조건적인 거대 모델(LLM) 추종보다는, 특정 도메인에 특화된 효율적인 소형 모델(SLM)과 이를 관리하는 오케스트레이션 기술이 강력한 경쟁력이 될 수 있음을 시사합니다.

다만, 정액제 도입은 코히어 입장에서 사용량이 폭증할 경우 수익성이 악화될 수 있는 리스크를 안고 있습니다. 또한 모든 기업의 업무가 소형 모델로 해결 가능한 것은 아니기에, 복잡한 추론이 필요한 영역에서의 성능 저하 우려도 존재합니다. 따라서 창업자들은 단순히 '작은 모델'을 만드는 것에 그치지 않고, 어떤 업무에 어떤 규모의 모델을 배치할 것인지 결정하는 정교한 로직과 이를 뒷받침할 데이터 파이프라인 구축에 집중해야 합니다.

원문 보기 →