Cloud Run 콜드 스타트: 제가 측정한 것과 변경한 것

하루 중 첫 번째 요청이 느리다는 불만이 발생하여 작은 API를 Cloud Run으로 옮긴 직후부터 문제를 겪었습니다. 그래서 억측하기보다는 일주일 동안 콜드 스타트를 측정했습니다. 측정 방법 합성 벤치마크가 아닌 실제 요청을 통해 측정했습니다. 서비스는 진입 시 타임스탬프를 기록하고, 로드 밸런서에 요청이 도착한 시점과 핸들러의 첫 번째 라인이 실행되는 시점 사이의 간격을 기록했습니다. 이는 우리가 통제할 수 없는 플랫폼 시간도 포함하며, 솔직히 현실적인 수치입니다.