VentureBeat AI

마스터카드는 연간 1,750억 건의 거래를 0.25초 이내에 검증하는 고도화된 사기 탐지 시스템을 운영해 왔으나, 최근 구매 주체가 인간에서 봇으로 변화하는 새로운 도전에 직면했습니다. 이는 기존의 규칙 기반 및 AI 모델이 대응해야 할 위험 요소가 단순 부정 결제를 넘어 자동화된 공격으로 확장되고 있음을 시사합니다.

이스라엘 사이버 보안 스타트업 허쉬 시연티가 3천만 달러 규모의 시리즈 A 투자 유치를 발표하며 AI 보안 패러다임의 변화를 예고했습니다. 기업들이 생성형 AI 에이전트를 본격 도입함에 따라, 보안의 초점이 모델 자체의 보호에서 에이전트의 신원 및 권한을 관리하는 거버넌스로 이동하고 있습니다.

시스코는 약 900개의 오픈 소스 모델을 대상으로 지문 분석을 실시하여 모델 계보의 불확실성을 조사했습니다. 연구 결과, 많은 모델이 업로더가 입력한 메타데이터에만 의존하고 있어 실제 가중치 수준의 검증이 이루어지지 않는 보안 공백 상태임이 밝혀졌습니다.

기업용 AI 에이전트 도입 확산에 따라 자격 증명 공유로 인한 보안 사고 위험이 커지고 있습니다. NTT DATA와 Snowflake의 전문가들은 ID 관리를 넘어 실행 단계의 권한 제어(Action-level authorization)와 변조 불가능한 감사 로그(Audit trails) 구축을 핵심 보안 과제로 제시했습니다.

SAP의 최신 보고서에 따르면 AI는 이제 실험을 넘어 실제 업무 프로세스에 통합되어 전체 업무의 약 3분의 1을 지원하고 있습니다. 특히 에이전트 AI에 대한 ROI 기대치가 전년 대비 크게 상승하며 기업들의 투자 가치가 구체화되는 양상을 보입니다.

자율주행 기업 웨이모는 물리적 세계의 결정을 내리는 AI의 위험을 관리하기 위해 모델 성능보다 엄격한 평가 통과를 우선시합니다. 이를 위해 지속적인 평가, 정교한 데이터 선별, 인간의 감독 및 명확한 비즈니스 결과 정의를 통해 안전성을 확보하는 전략을 사용합니다.

엔터프라이즈 AI 에이전트는 개별 작업 수행 능력은 갖추었으나, 에이전트 간 통신 및 보안, 감사 체계와 같은 인프라가 부족한 상태입니다. 이를 해결하기 위해 오케엇레이션과 옵저버빌리티 등 핵심 기술 격차를 메우려는 5개 스타트업의 혁신적인 접근 방식이 주목받고 있습니다.

뉴욕 기반 AI 스타트업 Nimble이 웹 검색 효율을 극대화한 새로운 'Web Search Agents'를 발표했습니다. 이 시스템은 AI 에이전트의 자원 소모를 줄이면서도 기존보다 21% 더 정확한 조사 결과를 제공하는 것을 목표로 합니다.

타겟의 SVP 시오lar 맥피니는 AI 모델 그 자체보다 모델 주변에 구축된 요소들이 진정한 경쟁 우위인 '해자(moat)'를 형성한다고 밝혔습니다. 그녀는 모델의 성능은 중요하지만, 이를 활용한 에이전트 구축 및 운영 체계가 기업의 핵심 경쟁력이 될 것이라고 강조했습니다.

브라이트 머신즈는 인간 운영자가 로봇 셀 내에서 조립 작업을 수행하더라도 모든 서버의 디지털 기록이 끊김 없이 유지되는 하이브리드 BRC를 공개했습니다. 이는 제조 공정 중 인간의 개입으로 인해 발생하는 품질 데이터 추적의 공백을 메우기 위한 기술적 진보입니다.

비자는 전 세계 200여 개국을 연결하는 방대한 결제 인프라의 보안 강화를 위해 Anthropic의 Claude Mythos 모델을 도입했습니다. 이 모델은 기존 침투 테스트로 발견하기 어려운 복잡한 공격 체인을 식별해냈으며, 관련 기술인 하니스를 오픈소스로 공개했습니다.

인스턴트카트의 CTO는 AI 에이전트가 대량의 반복적 작업을 처리함으로써 엔지니어들이 고차원적인 문제 해결에 집중할 수 있는 환경을 구축해야 한다고 주장했습니다. 특히 개발자들이 코드를 직접 읽지 않는 비중이 97%에 달할 정도로 AI를 통한 워크플로우 혁신이 진행되고 있음을 시사합니다.

GM 자율주행 부문은 AI 에이전트를 도입하여 데이터 분석, 문제 분류, 실험 및 테스트 등 코딩 외 업무의 85%를 자동화했습니다. 이를 통해 엔지니어들의 실제 코딩 비중은 15%로 줄었으나, 전체적인 풀 리퀘스트 병합 건수는 기존 대비 약 3배 증가하는 성과를 거두었습니다.

런웨이는 AI 생성 아바타가 실시간 비디오 생성 중 중심선을 벗어나는 고질적인 버그를 해결하기 위해 백엔드 패치 대신 프론트엔드 차원의 우회 기능을 도입했습니다. 이는 기술적 한계를 제품 기능으로 극복한 사례로, 모델 개발자가 아닌 서비스 기업의 효율적인 제품 빌딩 전략을 보여줍니다.

Snowflake가 Anthropic의 Claude Code와 같은 AI 에이전트들이 기업 데이터 및 모델에 안전하게 접근할 수 있도록 관리하는 Cortex AI Gateway를 발표했습니다. 이번 출시에는 1Password, SailPoint 등 주요 보안 솔루션과의 통합도 포함되어 AI 에이전트 운영을 위한 신뢰 기반의 제어 계층을 구축합니다.

Anthropic의 모델 컨텍스트 프로토콜(MCP)이 출시 20개월 만에 가장 큰 규모의 아키텍처 업데이트를 단행했습니다. 이번 개정은 AI 에이전트를 대규모 기업용 생산 환경에 배포하기 적합하도록 설계되었으며, Linux Foundation 산하 AAIF의 감독 하에 공개되었습니다.

AI 에이전트의 신뢰성은 배포 전 보안 테스트를 통과하는 것만으로는 부족하며, 실제 운영 환경에서의 지속적인 검증이 필요합니다. 사용자, 데이터, 공격 기법이 끊임없이 변하는 동적 환경에서 에이전트의 신뢰성을 런타임 수준에서 관리해야 한다는 것이 핵심입니다.

중국 AI 스타트업 문샷 AI가 자사의 가장 강력한 모델인 키미 K3의 전체 가중치를 공개했습니다. 2.8조 개의 파라미터를 가진 대규모 아키텍처를 특징으로 하지만, 기업 활용 시 라이선스 제약 사항을 반드시 확인해야 합니다.

마이크로소프트는 기업의 보안 비용 절감을 위해 자체 개발한 소형 보안 모델 MAI-Cyber-1-Flash와 에이전트 기반 방어 플랫폼을 발표했습니다. 이는 단순히 거대한 모델을 사용하는 대신, 효율적으로 라우팅된 작은 모델들을 활용하여 보안 성능과 경제성을 동시에 잡으려는 전략입니다.

Google의 AI 요약(AI Overviews) 기능이 도입되면서 기존 검색 결과 클릭률이 절반 수준으로 감소했으며, 특히 AI 답변 내 인용된 링크의 클릭률은 1%에 그치는 것으로 나타났습니다. 이는 웹 트래픽 유입에 의존하는 출판사와 기업들에게 심각한 수익 모델 위협을 예고하고 있습니다.

Anthropic의 Claude 사용자들이 '공유 가능'으로 설정한 대화 내용과 Artifact가 구글 검색 엔진에 색인되어 누구나 열람할 수 있는 상황이 포착되었습니다. 이 사실은 Reddit을 통해 알려졌으며, 사용자들 사이에서 데이터 프라이버시 및 정보 보안에 대한 우려가 급증하고 있습니다.

SAP는 VB Transform 2026에서 단순 챗봇을 넘어 비즈니스 프로세스를 실행하는 자율 AI 에이전트로 진화하기 위한 핵심 조건을 논의했습니다. 이를 위해 에이전트가 기업 내부의 특수한 맥락을 파악할 수 있도록 지식 그래프와 거버넌스 체계가 반드시 뒷받침되어야 한다고 제언합니다.

Langflow 서버의 인증 누락 취약점(CVE-2025-3248)을 통해 공격자가 Python 코드를 실행하고 AI 모델 가중치를 파괴하는 랜섬웨어 공격이 발생했습니다. 이번 공격은 금전적 요구 없이 모델 자체를 파괴하도록 설계되어 기존 랜섬웨어와는 다른 양상을 보입니다.

기업들이 기술 선점을 위해 관리 시스템 구축보다 AI 에이전트 배포를 먼저 진행하면서 거버넌스 공백이 발생하고 있습니다. 현재 기업들은 이를 보완하기 위해 사후적으로 제어 시스템을 구축 중이며, 향후 12개월 내 대다수 기업이 공급업체 변경이나 추가를 계획하고 있습니다.