지난해 성착취물 불법동영상 14만건 삭제됐다

(zdnet.co.kr)

방송미디어통신위원회가 공개한 2025년도 투명성 보고서에 따르면, 지난해 국내외 부가통신사업자들이 기술적 조치와 사후 삭제를 통해 약 14만 건의 성착취물 및 불법 촬영물을 차단하며 디지털 성범죄 예방을 위한 책임을 다한 것으로 나타났습니다.

이 글의 핵심 포인트

184개 부가통신사업자가 지난해 약 14만 건의 성착취물 및 불법 촬영물을 삭제·차단함
2전년 대비 신고 건수는 17.7%, 삭제·차단 건수는 22.2% 감소함
3기술적 조치를 통해 100만 건 이상의 불법 게시물을 사전에 차단하는 성과를 거둠
4보고서 대상은 매출액 10억 원 이상 또는 일평균 이용자 수 10만 명 이상의 사업자 등 83개사임
5딥페이크 등 고도화되는 디지털 성범죄에 대응하기 위한 사업자의 사전 유통 방지 체계 중요성 강조됨

이 글에 대한 공공지능 분석

왜 중요한가?

디지털 성범죄의 고도화에 따라 플랫폼 사업자의 사회적 책임과 법적 의무가 강화되고 있음을 보여줍니다. 특히 기술을 통한 사전 차단 성과가 입증됨에 따라 향후 규제 방향이 사후 삭제에서 사전 방지 기술로 이동할 것임을 시사합니다.

어떤 배경과 맥락이 있나?

딥페이크 등 생성형 AI를 이용한 디지털 성범죄가 급증하면서, 플랫폼 운영자의 모니터링 및 필터링 의무에 대한 사회적 요구가 높아진 상황입니다. 이에 따라 정부는 투명성 보고서를 통해 사업자의 대응 현황을 공개하고 관리 감독을 강화하고 있습니다.

업계에 어떤 영향을 주나?

콘텐츠 플랫폼 및 커뮤니티 서비스를 운영하는 스타트업은 불법 콘텐츠 차단을 위한 기술적 인프라(AI 필터링 등) 구축이 필수적인 비용이자 생존 요건이 될 것입니다. 단순한 운영 정책 수립을 넘어, 실질적인 '사전 차단' 능력을 증명해야 하는 압박이 커질 전망입니다.

한국 시장에 어떤 시사점이 있나?

국내 규제 환경은 플랫폼의 '기술적 책임'을 강조하는 방향으로 흐르고 있습니다. 따라서 AI 기반 이미지/영상 분석 기술을 보유한 테크 스타트업에게는 보안 및 클린 콘텐츠 솔루션이라는 새로운 B2B 시장 기회가 열릴 수 있습니다.

이 글에 대한 큐레이터 의견

플랫폼 사업자들에게 '사전 차단'의 성과는 고무적이지만, 이는 동시에 막대한 운영 비용과 기술적 난제를 의미합니다. 100만 건 이상의 사전 차단이 이루어졌다는 것은 AI 필터링 시스템에 대한 의존도가 극도로 높아졌음을 뜻하며, 이는 플랫폼의 핵심 경쟁력이 '콘텐츠 양'에서 '안전한 관리 역량'으로 이동하고 있음을 보여줍니다.

창업자들은 이러한 규제 흐름을 단순한 비용 부담으로만 보아서는 안 됩니다. 다만, 과도한 사전 필터링 기술 적용은 표현의 자유 침해나 정상적인 콘텐츠를 잘못 차단하는 '오탐(False Positive)'이라는 트레이드오프를 발생시킬 수 있습니다. 따라서 정교한 AI 모델 개발과 함께, 차단된 콘텐츠에 대한 이의 제기 프로세스 등 운영의 투명성을 확보하는 것이 기술적 완성도만큼이나 중요한 비즈니스 리스크 관리 요소가 될 것입니다.

원문 보기 →