Show GN: Malkuth - 다국어 한국어 분류 특화 Jev like system one model (4B/2B)
(news.hada.io)
Malkuth는 텍스트 생성 대신 선택지별 확률을 반환하는 Jev 방식의 다국어 및 한국어 특화 모델로, 기존 Kev 모델보다 높은 정확도와 낮은 Brier 점수를 기록하며 정밀한 의사결정 모델의 가능성을 입증했습니다.
이 글의 핵심 포인트
- 1Malkuth는 텍스트 생성 대신 선택지별 확률을 반환하는 Jev 방식의 모델임
- 24B와 2B 두 가지 크기로 제공되며, Kev(Apache-2.0)를 기반으로 post-training됨
- 329개 벤치마크 결과, Malkuth-4B가 기존 Kev-9B 및 Kev-4B보다 높은 정확도를 기록함
- 4TypeSafe System One API와 호환되어 기존 시스템에 통합이 용이함
- 52B 모델이 4B 모델보다 캘리브레이션(보정) 측면에서 더 우수한 성능을 보임
이 글에 대한 공공지능 분석
왜 중요한가?
기존 LLM의 생성형 방식이 가진 불확실성을 줄이고, 정해진 선택지 내에서 확률적 근거를 제공함으로써 신뢰도가 핵심인 분류 및 판단 작업의 자동화 효율을 극대화할 수 있기 때문입니다.
어떤 배경과 맥락이 있나?
'System One' 모델은 텍스트 생성 대신 확률값을 반환하는 구조로, 이는 모델의 판단 근거를 수치화하여 API 기반의 정밀한 의사결정 프로세스에 통합하기 용이한 기술적 흐름을 반영합니다.
업계에 어떤 영향을 주나?
텍스트 생성 비용을 절감하면서도 높은 정확도를 유지할 수 있어, 금융, 법률, 의료 등 높은 신뢰도가 요구되는 도메인의 자동화 솔루션 개발 및 서비스 운영 비용 최적화에 큰 영향을 미칠 것입니다.
한국 시장에 어떤 시사점이 있나?
한국어 특화 성능을 갖춘 2B, 4B 규모의 경량 모델은 국내 스타트업들이 저비용·고효율로 고성능 한국어 분류 및 판단 서비스를 구축할 수 있는 강력한 기술적 토대를 제공합니다.
이 글에 대한 큐레이터 의견
Malkuth와 같은 확률 기반 모델은 LLM의 고질적인 문제인 환각(Hallucination)을 구조적으로 억제할 수 있는 강력한 대안입니다. 특히 2B, 4B와 같은 경량 모델이 기존 대형 모델(Kev-9B)보다 높은 정확도를 기록했다는 점은, 온디바이스 AI나 비용 효율적인 클라우드 서비스를 지향하는 스타트업에게 매우 매력적인 기회입니다.
다만, 모든 모델이 과신(Overconfidence) 경향을 보이며 캘리브레이션(보정)이 완벽하지 않다는 점은 주의해야 할 리스크입니다. 모델이 내뱉는 확률값을 단순한 정답으로 맹신하여 자동화된 의사결정을 내릴 경우, 예상치 못한 오류가 발생할 수 있습니다. 따라서 창업자들은 모델의 확률값을 신뢰 구간과 함께 해석하고, 이를 보완할 수 있는 후처리 로직이나 검증 단계를 반드시 설계에 포함해야 합니다.
관련 뉴스
댓글
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.