LFM2.5-24B-A2B: 빠른 온디바이스 에이전트 구축을 위해 설계됨

(liquid.ai)

LFM2.5-24B-A2B는 24B 파라미터 중 2B만 활성화하는 효율적인 MoE 구조를 통해 온디바이스 환경에서 강력한 추론 및 도구 사용 능력을 제공하며, 대형 모델 대비 압도적인 속도로 차세대 개인용 AI 에이전트 구축의 새로운 기준을 제시합니다.

이 글의 핵심 포인트

124B 전체 파라미터 중 2B만 활성화하는 MoE 구조로 온디바이스 환경에 최적화된 빠른 추론 속도 제공
2Qwen3.6-35B-A3B 대비 약 50% 적은 파라미터로도 도구 사용 및 에이전트 벤치마크에서 대등하거나 우수한 성능 기록
3컨텍스트 윈도우를 32,768에서 131,072 토큰으로 확장하고 어휘 사전(Vocabulary)을 128K로 확대
433T 토큰 규모의 대규모 사전 학습 및 5단계의 정교한 사후 학습(Post-training) 파이프라인 적용
5지식 집약적 작업의 한계를 극복하기 위해 RAG 또는 웹 검색 기능과의 결합을 권장하는 추론 특화 모델

이 글에 대한 공공지능 분석

왜 중요한가?

온디바이스 AI는 프라이버시 보호와 저지연성(Low Latency)을 동시에 달성해야 하는 차세대 AI의 핵심 전장입니다. LFM2.5-24B-A2B는 파라미터 효율성을 극대화하여 대형 모델 수준의 에이전트 성능을 개인용 기기에서 구현할 수 있음을 증명했습니다.

어떤 배경과 맥락이 있나?

기존 LLM은 클라우드 기반의 거대 모델에 의존하여 높은 비용과 데이터 유출 리스크를 안고 있었습니다. 최근에는 모델의 크기를 키우는 대신, MoE(Mixture of Experts) 구조와 정교한 사후 학습을 통해 특정 작업(도구 사용, 추론)에 특화된 경량화된 고성능 모델로 패러다임이 전환되고 있습니다.

업계에 어떤 영향을 주나?

개발자들이 고가의 클라우드 API 없이도 스마트폰이나 노트북에서 강력한 기능을 가진 AI 에이전트를 구축할 수 있는 환경이 열립니다. 이는 에이전트 기반 서비스의 운영 비용(OPEX)을 획기적으로 낮추어, 더 복잡하고 개인화된 에이전트 서비스의 폭발적인 증가를 유도할 것입니다.

한국 시장에 어떤 시사점이 있나?

모바일 및 IoT 기기 제조 역량이 뛰어난 한국 기업들에게는 온디바이스 AI 에이전트를 탑재한 차별화된 하드웨어/소프트웨어 통합 솔루션 개발의 기회가 될 수 있습니다. 특히 보안이 중요한 금융, 의료, 개인 비서 분야의 스타트업들에게 강력한 기술적 토대를 제공합니다.

이 글에 대한 큐레이터 의견

LFM2.5-24B-A2B의 출시는 '에이전트 중심의 AI 시대'가 클라우드를 넘어 엣지(Edge)로 이동하고 있음을 알리는 신호탄입니다. 24B 모델임에도 2B의 파라미터만 활성화하여 압도적인 추론 속도를 확보한 것은, 복잡한 도구 호출(Tool-calling)이 필요한 에이전트 서비스의 사용자 경험(UX)을 혁신할 수 있는 핵심 요소입니다. 스타트업 창업자들은 이제 모델의 크기보다 '얼마나 효율적으로 특정 워크플로우를 수행하는가'에 집중해야 합니다.

하지만 명확한 트레이드오프도 존재합니다. 이 모델은 추론과 도구 사용에 특화된 대신, GPQA나 HLE와 같은 지식 집약적 벤치마크에서는 여전히 거대 모델에 뒤처지는 모습을 보입니다. 즉, 이 모델을 '모든 것을 아는 백과사전'으로 사용하려 한다면 한계에 부딪힐 것입니다. 따라서 모델의 약점을 보완하기 위해 RAG(검색 증강 생성)나 웹 검색 도구를 결합하는 아키텍처 설계 능력이 서비스의 성패를 가를 것입니다.

결론적으로, 창업자들은 이 모델을 기반으로 특정 도메인(코딩, 금융, 개인 비서 등)의 워크플로우를 자동화하는 '수직적(Vertical) 에이전트' 개발에 집중해야 합니다. 모델 자체를 만들기보다, 이 모델이 가진 강력한 도구 사용 능력을 활용해 어떤 실질적인 문제를 해결할 것인지에 대한 실행 가능한 인사이트가 필요합니다.

원문 보기 →