Thinky의 Inkling: 975B-A41B 멀티모달, 새로운 최고 미국 Apache 2.0 오픈 모델 (Inkling-Small, 276B-A12B 포함)

(latent.space)

Thinky가 9<0x9D>75B 규모의 MoE 구조를 가진 멀티모달 오픈 웨이트 모델 'Inkling'을 공개하며, 텍스트·이미지·오디오를 아우르는 강력한 범용 기초 모델 생태계 확장을 선언했습니다.

이 글의 핵심 포인트

1975B 전체 파라미터 중 41B만 활성화되는 MoE(Mixture-of-Experts) 구조 채택
2Apache 2.0 라이선스로 공개되어 상업적 이용 및 커스터마이징 용이
3텍스트, 이미지, 오디오를 동시에 처리하는 네이티브 멀티모달 기능 지원
4최대 1M 토큰의 컨텍스트 윈도우와 효율적인 추론 제어(controllable reasoning) 기능 탑재
5vLLM, Hugging Face 등 주요 AI 인프라 및 에코시스템과 즉각적인 호환성 확보

이 글에 대한 공공지능 분석

왜 중요한가?

단순한 성능 경쟁을 넘어, 누구나 커스텀 가능한 고성능 멀티모달 기반 모델(Foundation Model)의 오픈 소스화가 가속화되고 있음을 보여줍니다. 특히 Apache 2.0 라이선스는 기업들이 상업적 서비스에 즉시 도입할 수 있는 강력한 법적 유인을 제공합니다.

어떤 배경과 맥락이 있나?

최근 LLM 트렌드는 모델 크기만 키우는 것이 아니라, MoE(Mixture-of-ESS) 구조를 통해 추론 비용을 낮추면서도 멀티모달리티를 통합하는 방향으로 진화하고 있습니다. Inkling은 이러한 기술적 흐름의 정점에 있는 모델 중 하나로 평가받습니다.

업계에 어떤 영향을 주나?

vLLM, Hugging Face 등 주요 AI 인프라와의 즉각적인 생태계 연동은 개발자들이 별도의 최적화 없이도 이 모델을 서비스에 빠르게 통합할 수 있게 하여, 멀티모달 AI 에이전트 개발의 진입 장벽을 획기적으로 낮출 것입니다.

한국 시장에 어떤 시사점이 있나?

고비용의 폐쇄형 API(GPT-4 등) 대신 오픈 웨이트 모델을 활용한 온프레미스 또는 프라이빗 클라우드 구축이 가능해짐에 따라, 데이터 보안과 비용 최적화가 핵심인 국내 엔터프라이즈 AI 솔루션 기업들에 새로운 기회가 될 것입니다.

이 글에 대한 큐레이터 의견

Thinky의 이번 발표는 '벤치마크 점수 갱신'이라는 허영심 대신 '실용적 커스터마이징'과 '효율적 추론'에 집중했다는 점에서 매우 영리한 전략입니다. 특히 controllable reasoning effort 기능을 통해 작업의 복잡도에 따라 연산 자원을 조절할 수 있게 한 점은, 인프라 비용 최적화가 절실한 AI 스타트업들에게 매우 매력적인 기능입니다.

다만, 975B라는 거대한 전체 파라미터 규모는 모델을 로컬 환경이나 소규모 클러스터에서 운영하려는 팀에게는 여전히 막대한 인프라 비용이라는 진입 장벽을 제시합니다. 아무리 활성 파라미터가 41B로 적더라도, 전체 가중치를 로드하기 위한 VRAM 요구량은 무시할 수 없습니다. 따라서 창업자들은 Inkling-Small과 같은 경량 모델의 성능 한계를 명확히 파악하고, 서비스의 Latency와 Cost 사이의 트레이드오프를 정밀하게 계산하여 아키텍처를 설계해야 합니다.

원문 보기 →