Three.js로 브라우저에서 LLM 실행하기

(news.hada.io)

GeekNews2026년 9월 21일AI 모델

Three-LLM은 Three.js의 WebGPU 연산 기능을 활용해 별도의 추론 서버 없이 브라우저에서 직접 소형 언어 모델을 구동함으로써, 클라이언트 사이드 AI 추론의 비용 효율성과 프라이버시 문제를 동시에 해결할 수 있는 기술적 돌파구를 제시합니다.

이 글의 핵심 포인트

1Three.js의 WebGPU 기능을 활용하여 별도 추론 서버 없이 브라우저에서 LLM 실행 가능
2Hugging Face의 모델 파일을 별도 변환이나 WASM 없이 직접 로드 및 실행 가능
3TSL(Three.js Shading Language) 커널을 통해 행렬 곱 및 어텐션 연산 구현
4GPU 명령 통합 최적화를 통해 TinyStories 모델 기준 약 4.7배 성능 향상
5현재 FP32 기반으로 메모리 부담이 커 모바일에는 소형 모델 권장 및 양자화 개발 중

이 글에 대한 공공지능 분석

왜 중요한가?

기존 AI 서비스의 핵심 비용인 서버 사이드 추론 비용을 획기적으로 낮출 수 있는 기술적 기반을 마련했습니다. 사용자의 로컬 GPU 자원을 활용함으로써 서버 부하를 줄이는 동시에, 데이터가 외부로 유출되지 않는 프라이버시 중심의 AI 경험을 가능하게 합니다.

어떤 배경과 맥락이 있나?

거대 언어 모델(LLM)의 시대에서 효율적인 소형 언어 모델(SLM) 시대로 전환되는 흐름과 맞물려 있습니다. WebGPU라는 새로운 웹 표준 기술이 등장함에 따라, 웹 브라우저가 단순한 문서 뷰어를 넘어 고성능 병렬 연산이 가능한 엣지 컴퓨팅 플랫폼으로 진화하고 있는 맥락을 반영합니다.

업계에 어떤 영향을 주나?

AI 에이전트나 챗봇을 서비스하는 스타트업들에게 '서버리스 AI'라는 새로운 비즈니스 모델을 제시합니다. 인프라 비용 부담 없이 전 세계 사용자에게 AI 기능을 배포할 수 있어, 초기 자본이 부족한 팀도 고성능 AI 기능을 탑재한 웹 애플리케이션을 출시할 수 있는 기회가 됩니다.

한국 시장에 어떤 시사점이 있나?

글로벌 GPU 인프라 경쟁에서 밀릴 수 있는 국내 스타트업들에게 클라이언트 사이드 AI라는 틈새 전략을 제안합니다. 한국의 높은 웹 기술 숙련도를 바탕으로, 저사양 기기에서도 매끄럽게 작동하는 경량화된 AI 웹 서비스 개발에 집중한다면 글로벌 시장에서 차별화된 경쟁력을 확보할 수 있습니다.

이 글에 대한 큐레이터 의견

Three-LLM의 등장은 AI 서비스의 경제 구조를 근본적으로 바꿀 수 있는 잠재력을 지니고 있습니다. 특히 추론 비용이 사용자 수에 비례하여 증가하는 기존 모델과 달리, 클라이언트의 자원을 활용하는 방식은 확장성(Scalating) 측면에서 압도적인 우위를 점합니다. 이는 특히 단순 요약, 텍스트 분류, 간단한 챗봇 등 특정 태스크에 특화된 SLM을 활용하는 서비스에 혁명적인 변화를 가져올 것입니다.

하지만 명확한 트레이드오프와 한계도 존재합니다. 현재 FP32 연산 기반으로 인해 메모리 점유율이 매우 높으며, 이는 저사양 모바일 기기나 구형 PC에서의 실행을 어렵게 만듭니다. 또한, 사용자의 하드웨어 성능에 따라 서비스 품질이 결정되는 '성능 파편화' 문제는 서비스 운영자 입장에서 사용자 경험(UX)의 일관성을 해치는 리스크로 작용할 수 있습니다. 따라서 창업자들은 모든 기능을 브라우저로 옮기려 하기보다, 핵심 로직은 서버에서, 가벼운 인터랙션은 브라우저에서 처리하는 하이브리드 전략을 정교하게 설계해야 합니다.

원문 보기 →