세인즈버리 직원, 또다시 오작동으로 잘못된 고객 추방

(theregister.com)

The Register2026년 8월 17일스타트업

영국 세인즈버리 마트에서 안면 인식 기술(LFR) 알림을 받은 직원이 고객을 절도범으로 오인해 퇴거시킨 사건이 발생하며, AI 기술의 정확도보다 이를 운용하는 인간의 판단 오류가 사회적 리스크로 부각되고 있습니다.

이 글의 핵심 포인트

1영국 세인즈버리 매장에서 안면 인식(LFR) 알림을 받은 직원이 고객을 절도범으로 오인해 퇴거시킨 두 번째 사건 발생
2기술 제공사인 Facewatch는 시스템의 오류가 아닌, 알림을 받은 직원의 판단 미숙에 의한 '휴먼 에러'라고 주장
3세인즈버리는 내부 프로세스 검토 및 직원 교육을 위해 해당 매장의 LFR 기능을 일시 중한함
4세인즈버리는 도난 방지를 위해 올해 말까지 안면 인식 기술 적용 매장을 최대 200개로 확대할 계획임
5Facewatch의 시스템은 99.98%의 높은 정확도를 주장하지만, 영국 내 다른 유통업체에서도 오인 사례가 보고된 바 있음

이 글에 대한 공공지능 분석

왜 중요한가?

AI 기술의 성능(Accuracy)이 아무리 높더라도, 최종 의사결정 단계에서의 인간의 오류(Human Error)를 통제하지 못하면 기술 도입 자체가 거대한 사회적·법적 리스크로 변할 수 있음을 보여줍니다.

어떤 배경과 맥락이 있나?

최근 유통업계는 도난 방지를 위해 실시간 안면 인식(LFR) 등 AI 기반 보안 솔루션 도입을 가속화하고 있으며, 기술의 높은 정확도와 실제 현장 운영 간의 괴리가 주요 쟁점으로 떠오르고 있습니다.

업계에 어떤 영향을 주나?

AI 솔루션 기업들은 단순한 알고리즘 고도화를 넘어, 현장 작업자를 위한 '운영 가이드라인'과 '에러 대응 프로세스'를 제품 패키지에 포함해야 하는 새로운 과제를 안게 되었습니다.

한국 시장에 어떤 시사점이 있나?

한국 역시 지능형 CCTV와 안면 인식 도입이 늘고 있는 만큼, 기술의 정확도뿐만 아니라 오탐(False Positive) 발생 시의 즉각적인 검증 프로세스와 개인정보 보호 및 인권 침해 방지를 위한 운영 설계가 필수적입니다.

이 글에 대한 큐레이터 의견

이번 사건은 AI 솔루션 스타트업들에게 매우 중요한 교훈을 줍니다. 많은 창업자가 알고리즘의 정확도(Accuracy)나 정밀도(Precision) 수치에만 매몰되어, 실제 사용 환경에서의 '운영적 리스크'를 간과하곤 합니다. 기술이 완벽하게 작동하더라도 이를 활용하는 인간의 판단이 개입되는 순간, 제품의 가치는 순식간에 브랜드의 재앙으로 돌변할 수 있습니다.

물론 안면 인식 기술 도입을 통한 도난 방지 효과는 강력한 트레이드오프(Trade-off)를 가집니다. 보안 강화라는 이득을 얻기 위해 고객의 프라이버시 침해와 오인 제재라는 리스크를 감수해야 하기 때문입니다. 따라서 스타트업은 단순히 '정확한 AI'를 파는 것이 아니라, '오류 발생 시 피해를 최소화할 수 있는 워크플로우(Workflow)'를 함께 제안해야 합니다. 즉, 알림이 떴을 때 직원이 바로 고객을 쫓아내는 것이 아니라, 2차 검증을 거치도록 유도하는 인터페이스나 프로세스 설계가 제품의 핵심 경쟁력이 될 것입니다.

원문 보기 →