[인터뷰] 오행록 세종대 교수 "AI 사이버전 시대, 사람은 '결정'에 집중해야"

AI 에이전트가 사이버전의 주역이 되는 시대는 보안 스타트업에 거대한 기회를 제공합니다. 단순히 공격을 막는 기술을 넘어, AI가 내린 판단의 '근거'를 인간에게 납득시키는 기술, 즉 지식그래프와 XAI(설명 가능한 AI)를 보안 워크플로우에 이식하는 것이 차세대 보안 솔루션의 핵심 경쟁력이 될 것입니다. 특히 '복구 가능한 작업'은 AI에게, '불가역적 조치'는 인간에게 맡기는 정교한 권한 분리 로직은 제품의 신뢰도를 결정짓는 핵심 기능이 될 것입니다.

하지만 리스크도 분명합니다. AI 에이전트에게 높은 자율성을 부여할수록, 공격자가 AI의 학습 데이터나 판단 로직을 오염시키는 '데이터 오염(Data Poisoning)'이나 '적대적 공격(Adversarial Attack)'에 노출될 위험이 커집니다. 만약 AI가 잘못된 근거로 통신 차단과 같은 치명적인 조치를 추천하고 인간이 이를 맹목적으로 승인한다면, AI는 방어 도구가 아닌 공격의 도구가 될 수 있습니다. 따라서 창업자들은 AI의 자율성 확대와 인간의 통제권 사이의 정교한 '트레이드오프'를 설계하고, AI의 판단 오류를 검증할 수 있는 이중 방어 체계를 제품 아키텍처에 반드시 포함해야 합니다.