싱킹 머신즈, '잉클링-스몰' 공개…4분의 1 크기로 동급 최고 성능 확보

(aitimes.com)

싱킹 머신즈 랩이 플래그십 모델 대비 크기를 4분의 1로 줄이면서도 추론과 코딩 성능을 유지한 효율적인 오픈웨이트 모델 '잉클링-스몰'을 공개하며 고성능 AI의 경량화 및 효율적 구현 가능성을 증명했다.

이 글의 핵심 포인트

1싱킹 머신즈 랩(TML)이 두 번째 오픈웨이트 모델 '잉클링-스몰'을 공개함
2플래그십 모델인 '잉클링' 대비 규모를 약 4분의 1 수준으로 축소함
3추론, 코딩, 멀티모달 성능은 기존 모델과 대등하거나 일부 벤치마적에서 앞섬
4총 2760억 개(276B)의 매개변수를 가진 전문가 혼합(MoE) 구조를 채택함
5허깅페이스를 통해 출시되었으며 적은 연산 자원으로 효율적인 구현이 가능함을 강조함

이 글에 대한 공공지능 분석

왜 중요한가?

거대 언어 모델(LLM)의 크기를 줄이면서도 성능을 유지하는 '모델 경량화'와 '효율성'은 AI 상용화의 핵심 과제입니다. 이번 발표는 적은 연산 자원으로도 고성능 추론 및 멀티모달 기능을 구현할 수 있음을 보여주어 모델 운영 비용 절감의 새로운 이정표를 제시합니다.

어떤 배경과 맥락이 있나?

최근 AI 업계는 무조건적인 파라미터 증대보다는 MoE(Mixture of Experts)와 같은 구조적 혁신을 통해 효율성을 극대화하는 방향으로 이동하고 있습니다. 이는 컴퓨팅 자원의 한계를 극복하고 온디바들어 AI나 엣지 컴퓨팅 환경에 고성능 모델을 이식하려는 흐름과 맞닿아 있습니다.

업계에 어떤 영향을 주나?

오픈웨이트 모델의 성능 향상은 스타트업들이 막대한 인프라 비용 없이도 독자적인 고성능 서비스를 구축할 수 있는 진입 장벽 완화 효과를 가져옵니다. 특히 코딩 및 멀티모달 기능이 강화된 경량 모델은 특정 도메인에 특화된 버티컬 AI 솔루션 개발을 가속화할 것입니다.

한국 시장에 어떤 시사점이 있나?

GPU 자원이 제한적인 국내 스타트업들에게 이번 모델과 같은 효율적 구조는 비용 최적화의 핵심 기회입니다. 글로벌 오픈소스 모델을 기반으로 한국어 특화 데이터셋을 학습시켜 고효율·고성능의 국산 버티컬 AI 서비스를 개발하는 전략이 유효할 것입니다.

이 글에 대한 큐레이터 의견

잉클링-스몰의 등장은 '모델 크기가 곧 성능'이라는 기존의 패러다임을 깨고, 효율적인 아키텍처 설계가 얼마나 강력한 경쟁 우위가 될 수 있는지를 보여주는 사례입니다. 스타트업 창업자들에게는 고가의 인프라 없이도 글로벌 수준의 추론 및 멀티모달 기능을 서비스에 통합할 수 있는 기술적 토대가 마련된 셈입니다.

다만, 모델 크기를 줄이는 과정에서 발생할 수 있는 '지식 밀도'의 한계나 특정 복잡한 태스크에서의 성능 저하 가능성은 여전히 경계해야 할 요소입니다. MoE 구조는 효율적이지만 추론 시 메모리 대역폭 요구사항이 높을 수 있다는 트레이드오프가 존재합니다. 따라서 창업자들은 단순히 모델의 크기에 매몰되기보다, 자사 서비스의 워크로드에 이 모델이 실제 운영 비용(Inference Cost) 측면에서 얼마나 지속 가능한지를 면밀히 검증한 후 도입 여부를 결정해야 합니다.

원문 보기 →