AI 에이전트 도입 늘어도 실제 운영은 11%…문제는 '통제'

(zdnet.co.kr)

ZDNet Korea6일 전AI 코딩

기업의 AI 에이전트 도입은 급증하고 있으나 보안과 관리 부재로 인해 실제 운영률은 11%에 불과하며, 이를 해결하기 위해 권한과 보안을 통제하는 AI 거버넌스 플랫폼의 중요성이 부각되고 있습니다.

이 글의 핵심 포인트

1기업의 AI 에이전트 도입 시 실제 운영 단계까지 이어지는 비율은 11%에 불과함
2관리되지 않는 에이전트가 증가하는 '에이전트 스프롤(Agent Sprawl)' 현상이 주요 장애물로 지목됨
3아이티센글로벌은 권한, 보안, 감사 로그를 통합 관리하는 '에이전트고' 플랫폼을 공개함
4'에이전트고 가드'를 통해 프롬프트 인젝션 및 민감 정보 탈취 공격을 탐지하고 방어함
5현업 직원이 직접 에이전트를 개발하되, 중앙 플랫폼에서 품질과 보안을 관리하는 모델 제시

이 글에 대한 공공지능 분석

왜 중요한가?

AI 에이전트가 단순 답변을 넘어 실제 업무를 수행하게 되면서, 권한 오남용이나 데이터 유출 등 보안 사고가 기업의 존립을 위협할 수 있는 수준으로 커졌기 때문입니다.

어떤 배경과 맥락이 있나?

가트너는 기업용 앱 10개 중 4개에 AI 에이전트가 탑재될 것으로 전망하지만, 실제 운영률이 11%에 그치는 이유는 거버넌스 부재와 사용되지 않는 에이전트가 권한을 보유한 채 방치되는 '에이전트 스프롤' 현상 때문입니다.

업계에 어떤 영향을 주나?

AI 에이전트의 '지능' 자체보다, 에이전트의 실행 기록을 감사하고 프롬프트 인젝션 등 공격을 방어하는 'AI 가드레일' 및 '거버넌스' 기술을 보유한 기업이 차세대 AI 인프라 시장의 핵심 플레이어가 될 것입니다.

한국 시장에 어떤 시사점이 있나?

국내 기업들은 현업 사용자가 직접 에이전트를 개발하는 '에이전트 민주화'를 추진하되, 중앙에서 보안과 품질을 통제할 수 있는 표준화된 운영 프레임워크를 구축하는 데 집중해야 합니다.

이 글에 대한 큐레이터 의견

AI 에이전트의 확산은 기업 운영의 패러다임을 바꾸는 거대한 흐름입니다. 하지만 기사에서 지적하듯 '에이전트 스프롤'과 '섀도 AI' 문제는 기업의 보안 체계를 근본적으로 위협할 수 있습니다. 따라서 스타트업 창업자들은 에이전트의 '지능' 구현에만 매몰될 것이 아니라, 기업 고객이 안심하고 도입할 수 있는 '신뢰할 수 있는 통제 메커니즘'을 제품의 핵심 가치로 포함시켜야 합니다.

물론 강력한 통제와 가드레일 도입은 에이전트의 자율성을 저해하고 개발 속도를 늦추는 트레이드오프를 발생시킬 수 있습니다. 너무 엄격한 승인 절차는 현업의 혁신을 가로막는 '브레이크'가 될 위험이 있습니다. 결국 승리하는 솔루션은 통제를 '규제'가 아닌, 안전한 고속 주행을 가능하게 하는 '가속 페달'로 전환시키는 정교한 거버넌스 설계 능력을 보여주는 플랫폼이 될 것입니다.

원문 보기 →