Show HN: 요청당 도구 정의 토큰을 97% 줄이는 MCP 프록시

(github.com)

Hacker News Show2026년 11월 3일개발자 도구

MCP 프록시인 'mcp-toolsearch-proxy'는 수천 개의 도구를 모델에 직접 로드하는 대신 검색 기반의 접근 방식을 사용하여 도구 정의 토큰 사용량을 97% 절감하고 비용 효율성과 성능을 동시에 확보하는 혁신적인 기술입니다.

이 글의 핵심 포인트

1500개의 도구 사용 시 도구 정의 토큰 사용량을 97% 절감하여 비용을 약 절반으로 감소시킴
2BM25와 다국어 임베딩 모델(potion-multilingual-128M)을 결합한 하이브리드 검색 기능 제공
3입력 스키마 오류 및 오타를 상위 서버에 전달하기 전 프록시 단계에서 사전 차단
4읽기 전용(read-only)과 쓰기(write) 도구를 구분하여 보안 및 승인 프로세스 관리 가능
5별도의 인증 정보 저장 없이 클라이언트의 Authorization 헤더를 그대로 전달하여 보안 유지

이 글에 대한 공공지능 분석

왜 중요한가?

LLM의 컨텍스트 윈도우 한계와 기하급적으로 증가하는 토큰 비용 문제를 해결할 수 있는 실질적인 아키텍처 대기안을 제시하기 때문입니다. 도구의 수가 늘어날수록 발생하는 비용과 지연 시간 문제를 효율적으로 관리할 수 있는 길을 열어줍니다.

어떤 배경과 맥락이 있나?

최근 AI 에이전트 기술이 발전하며 수많은 외부 API와 도구를 연결하는 MCP(Model Context Protocol)의 중요성이 커지고 있으나, 모든 도구의 스키마를 프롬프트에 포함하는 것은 비용 및 성능 저하를 초래하는 병목 구간이 되어왔습니다.

업계에 어떤 영향을 주나?

AI 에이전트 개발사들은 이제 '무한한 도구 라이브러리'를 저비용으로 운영할 수 있는 기반을 갖게 되며, 이는 대규모 도구 생태계를 보유한 플랫폼 기업의 경쟁력을 극대화할 것입니다.

한국 시장에 어떤 시사점이 있나?

다양한 SaaS와 API를 활용하여 복잡한 워크플로우를 자동화하려는 한국의 AI 스타트업들에게, 인프라 비용을 최적화하면서도 에이전트의 기능을 확장할 수 있는 핵심적인 최적화 기술로서 도입 가치가 매우 높습니다.

이 글에 대한 큐레이터 의견

이 프록시 기술은 AI 에이전트의 확장성 문제를 해결할 수 있는 매우 영리한 접근법입니다. 단순히 도구의 수를 줄이는 것이 아니라, 검색(Search)과 검증(Validation)이라는 레이어를 중간에 삽입함으로써 모델이 '무엇을 할 수 있는지'를 효율적으로 인지하게 만듭니다. 이는 에이전트의 지능을 유지하면서도 운영 비용을 통제하려는 창업자들에게 매우 매력적인 아키텍처입니다.

다만, 검색 레이어가 추가됨에 따라 발생하는 '검색 실패(Retrieval Failure)' 리스크를 간과해서는 안 됩니다. 만약 검색 모델이 적절한 도구를 찾아내지 못한다면, 아무리 강력한 도구가 뒤에 있더라도 모델은 사용할 수 없게 됩니다. 따라서 검색 엔진의 정확도와 임베딩 모델의 품질 관리가 시스템의 새로운 병목이자 핵심적인 도전 과제가 될 것입니다.

원문 보기 →