AI 평가 플랫폼을 위한 안전한 자체 호스팅 관측성 파이프라인 구축

AI 평가 플랫폼을 구축할 때 대시보드, 모델, 그리고 점수 산정 프레임워크부터 시작하고 싶다는 유혹을 받을 수 있습니다. 하지만 저희는 좀 더 근본적인 질문으로 시작했습니다: 어떻게 팀은 VM, 데이터베이스, 자격 증명, 또는 내부 서비스를 공개 인터넷에 노출시키지 않고도 평가 텔레메트리를 안전하게 확인할 수 있을까요? 이 문서는 실제로 구축한 파이프라인을 기록합니다. 바로 AI 평가 플랫폼을 위한 보안, 자체 호스팅되는 추적 관측(trace-observability) 경로입니다. 이는 안정적인 다중 테넌시(multi-tenant) 평가가 가능하다는 주장을 하는 것이 아닙니다.