TinySearch: 소규모 로컬 LLM이 컨텍스트 소모 없이 웹 검색하도록 지원
(dev.to)
TinySearch는 소규모 로컬 LLM이 웹 검색 시 발생하는 불필요한 노이즈를 제거하고 정제된 핵심 정보만을 컨텍스트로 제공하여, 저사양 모델에서도 효율적이고 정확한 웹 리서치가 가능하도록 돕는 오픈소스 MCP 도구입니다.
이 글의 핵심 포인트
- 1소규모 로컬 LLM(4B/9B)의 컨텍스트 오버헤드 및 노이즈 문제 해결
- 2검색-크롤링-리랭킹-프롬프트 생성으로 이어지는 정제된 파이프라인 제공
- 3MCP(Model Context Protocol)를 지원하여 기존 에이전트 워크플로우와 손쉽게 통합 가능