김종윤 스캐터랩 대표, 2년 연속 국감장 선다

(zdnet.co.kr)

ZDNet Korea2026년 9월 22일AI 산업

스캐터랩의 AI 캐릭터 플랫폼 '제타'가 청소년 이용자 보호 및 유해 콘텐츠 노출 문제로 2년 연속 국정감사 증인으로 채택되며, AI 엔터테인먼트 산업의 규제 리스크와 안전장치 마련이 핵심 과제로 부상하고 있습니다.

이 글의 핵심 포인트

1스캐터랩 김종윤 대표, AI 챗봇 위험성 문제로 2년 연속 국정감사 증인 채택
2제타(Zeta)의 10대 이용자 비중은 약 58.3%로 전체 MAU의 과반을 차지
3청소년의 약 6%가 AI 챗봇을 통해 자해, 자살, 성적 내용 등 유해 질문 경험
4지난해 국감에서도 선정성·폭력성 논란으로 증인 채택되었으나 정치적 상황으로 질의 미이행
5국회에서는 제타 내 마약, 자살 미화 등 유해 콘텐츠 관리 실태에 대한 강력한 질타 예고

이 글에 대한 공공지능 분석

왜 중요한가?

AI 엔터테인먼트 서비스의 폭발적 성장 이면에 숨겨적 사회적 책임과 규제 리스크가 가시화되었기 때문입니다. 특히 이용자 대다수가 미성년자인 서비스의 경우, 안전성 확보 실패는 기업의 존립을 흔들 수 있는 법적·사회적 압박으로 이어집니다.

어떤 배경과 맥락이 있나?

생성형 AI 기술이 단순 정보 제공을 넘어 정서적 교류와 엔터테인먼트로 확장되면서, 사용자 생성 콘텐츠(UGC)를 통한 무한한 상호작용이 가능해졌습니다. 이 과정에서 의도치 않은 유해물 생성이라는 기술적 한계와 윤리적 공백이 맞물려 있습니다.

업계에 어떤 영향을 주나?

AI 스타트업들은 서비스의 재미와 몰입감을 높이는 것뿐만 아니라, 강력한 콘텐츠 필터링 및 연령별 보호 체계를 구축하는 데 더 많은 리소스를 투입해야 하는 비용 압박에 직면할 것입니다. 이는 서비스 운영 비용 상승과 사용자 경험(UX)의 제약으로 이어질 수 있습니다.

한국 시장에 어떤 시사점이 있나?

한국은 규제 민감도가 매우 높은 시장이므로, 글로벌 확장을 목표로 하는 AI 서비스들은 기획 단계부터 'Safety by Design' 원기을 도입해야 합니다. 규제 대응력을 단순한 비용이 아닌, 서비스의 지속 가능성을 담보하는 핵심 경쟁력으로 삼아야 합니다.

이 글에 대한 큐레이터 의견

AI 캐릭터 채팅 시장의 급성장은 사용자 참여형 콘텐츠(UGC)의 강력한 힘을 보여주지만, 이번 국감 이슈는 '자율 규제'의 한계를 드러내는 경고등입니다. 창업자들은 사용자가 생성하는 무한한 자유도가 곧 기업의 법적 책임으로 직결될 수 있음을 인지해야 합니다.

물론 강력한 필터링은 서비스의 재미를 반감시키고 창의성을 저해하는 트레이드오프(Trade-off)를 발생시킵니다. 지나친 검열은 사용자 이탈을 부를 수 있지만, 반대로 안전장치가 없는 서비스는 규제 당국의 타겟이 되어 서비스 중단이라는 최악의 시나리오를 맞이할 수 있습니다.

따라서 스타트업은 단순한 사후 필터링을 넘어, AI 모델 자체의 안전성을 높이는 기술적 투자와 함께 투명한 운영 가이드라인을 선제적으로 공개하는 '신뢰 구축 전략'을 실행 가능한 핵심 로드맵으로 삼아야 합니다.

원문 보기 →