루프 속 인간, 루프 위의 인간? 대부분의 팀은 잘못된 모델을 사용하고 있다

AI 에이전트 운영 시 'Human-in-the-loop(HITL)'와 'Human-on-the-loop(HOTL)'를 혼동하여 잘못된 거버넌스 모델을 적용하는 문제가 제기되었습니다. 고위험 작업에는 실행 전 승인이 필요한 HITL을, 저위험 작업에는 사후 모니터링 중심의 HOTL을 적용해야 하며, 이 승인 로직을 에이전트 코드 내에 하드코딩하는 기존 방식의 위험성을 경고합니다.

• 1HITL(Human-in-the-loop)은 실행 전 인간의 명시적 승인이 필요한 '차단형(Blocking)' 모델임
• 2HOTL(Human-on-the-loop)은 실행 후 인간이 결과물을 모니터링하는 '감시형(Supervisory)' 모델임
• 3결제, 계약 등 고위험 작업에는 HITL을, 요약, 검색 등 저위험 작업에는 HOTL을 적용해야 함
• 4승인 로직을 에이잭트 코드에 하드코딩할 경우, 새로운 작업 유형 등장 시 통제 불능이 되는 '커버리지 드리프트' 발생 위험이 있음
• 5오버사이트 모델은 에이전트의 아키텍처 속성이 아닌, 별도의 '거버넌스 계층'에서 관리되어야 함