Anthropic, “GLM-5.3의 익스플로잇 개발 능력은 Mythos Preview에 근접”
(news.hada.io)
Anthropic은 중국 Zhipu AI의 GLM-5.3이 제한된 공개 모델인 Claude Mythos Preview에 필적하는 사이버 공격 역량을 갖췄으며, 오픈 웨이트 모델 특성상 안전장치 제거가 용이해 보안 위협이 급증할 수 있다고 경고했습니다.
이 글의 핵심 포인트
- 1GLM-5.3의 Chrome V8 취약점 공격 성공률은 410회 중 50회로, Claude Mythos Preview(56회)에 근접함
- 2GLM-5.3-Flash는 알려진 취약점을 연결해 ARM64 보호 기법을 우회하는 공격 체인을 구축함
- 3'Abliteration' 기법을 통해 GLM-5.3의 안전장치를 제거하면 유해 요청 응답률이 최대 100%까지 상승함
- 4안전장치 제거에는 약 600 GPU 시간과 1,200달러 정도의 비교적 저렴한 비용이 소요됨
- 5Anthropic은 공격자의 접근성을 낮추기 위해 방어자에게 고성능 모델 접근을 확대하고 독립적 평가를 실시할 것을 촉구함
이 글에 대한 공공지능 분석
왜 중요한가?
AI가 단순 텍스트 생성을 넘어 실제 작동하는 공격 코드를 작성하는 '자율적 사이버 공격' 단계에 진입했음을 시사합니다. 특히 누구나 접근 가능한 오픈 웨이트 모델의 보안 역량이 임계점을 넘었다는 점이 핵심입니다.
어떤 배경과 맥락이 있나?
Anthropic은 보안을 위해 모델 접근을 제한하는 'Project Glasswing'을 운영 중인 반면, GLM-5.3은 공개된 가중치를 통해 누구나 성능을 높이거나 안전장치를 제거할 수 있는 환경에 놓여 있습니다.
업계에 어떤 영향을 주나?
사이버 보안 솔루션 기업들은 AI 기반 자동화 공격에 대응하기 위해 더 강력한 AI 방어 도구를 확보해야 하는 압박을 받게 될 것입니다. 또한 AI 모델의 '안전장치 제거(Abliteration)' 기술의 발전은 모델 배포 방식에 대한 윤리적 논쟁을 가속화할 것입니다.
한국 시장에 어떤 시사점이 있나?
보안 솔루션 및 클라우드 인프라를 운영하는 국내 스타트업들은 AI를 활용한 N-day 공격에 대비한 자동화된 패치 및 탐지 시스템 구축을 서둘러야 합니다.
이 글에 대한 큐레이터 의견
이번 보고서는 AI 기술의 발전이 보안의 '민주화'가 아닌 '무기화'로 흐를 수 있다는 공포를 현실화했습니다. GLM-5.3처럼 고성능 모델이 오픈 웨이트로 풀릴 경우, 공격 비용은 급감하는 반면 방어 비용은 기하급수적으로 상승하는 비대칭적 전쟁이 시작될 것입니다.
물론 오픈 웨이트 모델은 기술 혁신과 연구의 접근성을 높인다는 강력한 장점이 있습니다. 하지만 'Abliteration'과 같이 저비용으로 안전장치를 무력화할 수 있는 기술이 존재한다면, 모델의 공개 범위와 안전성 검연에 대한 새로운 국제적 표준과 규제가 필요합니다.
스타트업 창업자들은 이 위기를 기회로 삼아야 합니다. AI 기반의 자동화된 취약점 탐지 및 대응(ASPM) 기술을 선제적으로 개발하여, AI 공격 시대의 '자동화된 방패' 역할을 하는 보안 서비스 시장을 선점하는 전략이 유효할 것입니다.
관련 뉴스
댓글
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.