응답 후 LLM 분류 실행: Next.js after() + OpenRouter, 콜당 0.0002달러
(dev.to)
Next.js의 `after()` API와 OpenRouter를 활용하여 사용자 응답 지연 없이 호출당 $0.0002라는 초저비용으로 LLM 기반 스팸 분류 시스템을 구축하는 실전 아키텍처를 소개합니다. LLM 호출을 메인 프로세스에서 분리하여 성능, 비용, 안정성을 동시에 확보하는 구체적인 구현 방법을 다룹니다.
이 글의 핵심 포인트
- 1Next.js `after()` API를 사용하여 LLM 호출을 비동기화함으로써 사용자 응답 지연(Latency)을 제로화함
- 2OpenRouter와 Claude Haiku 모델을 활용하여 호출당 비용을 $0.0002라는 극단적인 수준으로 절감
- 3