도전 과제 전 세계에 서로 다른 specs (VRAM, TFLOPS, 지원 모델)를 가진 수백 개의 GPU nodes가 흩어져 있을 때, 어떻게 밀리초 단위로 inference request를 적절한 node로 라우팅할 수 있을까요? 이것이 제가 구축하고 있는 decentralized GPU network인 NeuralGrid의 핵심 엔지니어링 문제입니다. 제가 이를 어떻게 해결했는지 소개합니다. Architecture Overview Client Request → API Gateway → Job Matcher → Node Selection → Inference → Response ↓ ↓ Auth + Rate S