VentureBeat AI

비자가 소스 코드의 취약점을 스스로 찾아내고 수정 패치까지 작성하는 새로운 보안 AI 솔루션을 공개했습니다. 이 시스템은 인간의 검토 전 단계에서 적대적 패널을 활용해 패치의 유효성을 검증하는 11단계의 자동화된 루프를 실행합니다.

AI 에이전트가 인간의 승인 없이 계획을 세우고 시스템을 조작하는 자율성을 갖게 되면서 보안 및 거버넌스 문제가 대두되고 있습니다. 에이전트의 오작동이나 권한 남용을 막기 위해서는 데이터 레이어 수준에서의 강력한 통제 메커니즘이 필요합니다.

최근 OpenRouter에 등장한 미지의 모델 'Ox Alpha'가 매우 빠른 속도와 무료 가격 정책을 앞세워 개발자들 사이에서 폭발적인 사용량을 기록하고 있습니다. 이 모델은 출시 일주일 만에 약 10조에서 20조 개 이상의 토큰을 처리한 것으로 추정되며, 현재 AI 커뮤니티는 이 모델의 개발 주체를 추적 중입니다.

세일즈포스와 앤스로픽은 '클라우드포스(Claudeforce)'라는 파트너십을 통해 클로드 내에서 세일즈포스 기능을 사용할 수 있는 플러그인을 출시합니다. 이를 통해 사용자는 별도의 앱 접속 없이 클로드 내에서 37개의 사전 구축된 영업 기술을 활용할 수 있게 됩니다.

DEF CON 34에서 공개된 'GhostJacking'은 차단된 보안 로그 내의 프롬프트 인젝션 페이로드를 AI 에이전트가 읽을 때 발생하는 보안 위협을 다룹니다. 공격자는 로그에 유해한 명령을 심어 AI 에이전트가 DNS 설정을 재작성하도록 유도할 수 있으며, 이는 AI 에이전트의 권한 관리 중요성을 시사합니다.

기업들의 AI 에이전트 및 자동화 기술 도입 속도가 이를 뒷받침할 인프라 아키텍처 구축 속도를 앞지르고 있습니다. 현재 많은 기업이 기존 시스템에 대화형 AI를 단순히 추가하는 방식으로 도입하고 있어, 채널 간 통합 관리가 어려운 과제에 직기하고 있습니다.

프롬프트 인젝션은 LLM 애플리케이션 보안 위협 중 가장 높은 우선순위를 차지하고 있지만, 실제 CVE 기록에서는 12위에 그치고 있습니다. 이러한 격차는 공격 자체가 스캔 도구로 감지하기 어려운 특성을 지녔기 때문에 발생하는 가시성 문제이며, 보안 담당자는 수치에 근거한 과소평가를 경계해야 합니다.

Perplexity가 Nvidia의 DGX Spark 및 RTX GPU 기반의 로컬 AI 에이전트 플랫폼인 'Portable Computer'를 출시했습니다. 이 플랫폼은 클라우드 의존도를 낮추고 모델과 데이터를 로컬 장치에서 직접 처리하여 토큰 비용을 제거하는 것을 목표로 합니다.

앤스로픽은 기업용 AI 도입의 병목이 모델의 지능이 아닌 개별적인 사용 방식에 있다고 보고, 팀 단위로 작동하는 '멀티플레이어 AI' 전략을 추진합니다. 이를 위해 Slack 에이전트가 대화 내용을 읽고 요청 없이도 업무에 참여하는 등 조직의 맥락을 이해하는 선제적 에이전트 기술을 강화하고 있습니다.

IBM이 Hot Chips 컨퍼런스에서 Arm과 IBM Z 명령어 집합을 모두 네이티브로 실행할 수 있는 혁신적인 차세대 메인프레임 프로세서를 공개했습니다. 이 칩은 나노나초 단위의 초고속 전환을 통해 기존 메인프레임의 강력한 성능과 급성장하는 Arm 생태계의 유연성을 결합한 최초의 듀얼 아키텍처 시스템을 구현합니다.

기존 엔터프라이즈 AI 구축 방식은 기업 지식을 공유 자산이 아닌 개별 애플리케이션을 위한 파편화된 컨텍스트로 취급하는 한계가 있습니다. AI 에이전트 도입이 늘어날수록 이러한 방식은 지식의 불일치를 초래하며, 결국 AI의 신뢰도는 기반이 되는 문서의 품질에 종속될 수밖에 없습니다.

많은 기업이 AI 에이전트에게 높은 자유도를 부여하려 했으나, 실제 대규모 배포 과정에서 예측 불가능한 결과로 인해 실패를 경험하고 있습니다. 이에 따라 성공적인 도입을 위해 에이전트의 행동 범위를 제어하는 방향으로 패러다임이 변화하고 있습니다.

에이전트 AI가 서로 다른 규모의 LLM 간에 작업을 넘길 때 발생하는 재계산 비용과 지연 문제를 해결하는 새로운 기술이 등장했습니다. 엔비디아 연구진은 선형 연산을 통해 소스 모델의 KV 캐시를 대상 모델로 직접 전송함으로써 효율적인 워크플로우 구축을 가능하게 했습니다.

세일즈포스의 슬랙이 Anthropic, GitHub, Vercel 등의 AI 코딩 에이전트를 슬랙 채널에 직접 내장한 '슬랙 코드'를 출시했습니다. 이를 통해 개발팀은 터미널을 벗어나 채팅창 내에서 함께 코드를 검토하고 소프트웨어를 배포하는 협업 환경을 구축할 수 있습니다.

기업 AI 팀들은 특정 벤더에 대한 의존도를 낮추고 유연성을 유지하기 위해 다중 플랫폼 전략을 채택하고 있습니다. 현재 기업들은 평균적으로 세 개의 오케스트레이션 플랫폼을 동시에 운영하며, 이는 벤더의 보안 및 권한 관리 기능에 대한 불신과 자체 제어 능력 확보를 위한 결과입니다.

NanoCo는 슬랙 내에서 손쉽게 AI 에이전트를 생성하고 관리할 수 있는 저코드(low-code) 플랫폼 NanoClaw를 출시했습니다. 이는 기존의 복잡한 AI 통합 과정을 단순화하여, 사용자가 메시지 입력만으로 지속 가능한 AI 에이전트 팀을 구축하도록 돕습니다.

Serval은 기업용 AI 에이전트인 Catalyst를 정식 출시하며 고객들에게 기본 기능으로 제공하기 시작했습니다. 이 에이전트는 티켓 기록과 표준 운영 절차(SOP)를 분석해 반복 작업을 찾아내고, 자동화 워크플로우 초안을 작성하는 '슈퍼 에이전트' 역할을 수행합니다.

샌프란시스코의 ML 스타트업 TrueFoundry가 개발자의 에이전트 제어 능력을 높이고 비용을 낮추는 오픈 소스 도구인 'TrueForge'를 출시했습니다. 이 솔루션은 클로드 매니지드 에이전트와 비교해 작업 완료 비용을 30~75%까지 절감할 수 있는 것으로 나타났습니다.

VentureBeat가 전 TheCube Research의 핵심 인력인 로브 스트레처이를 첫 리드 애널리스트이자 VentureBeat Research의 창립 분석가로 영입했습니다. 이번 영입은 CIO, CTO 등 기업 내 기술 의사결정권자들을 대상으로 엔터프라이즈 AI 스택에 대한 심층적인 전문 분석을 제공하기 위한 전략적 행보입니다.

z.ai는 최근 Cursor의 취약점을 찾아낼 만큼 뛰어난 성능을 보여준 오픈 소스 모델 GLM-5.3의 API를 공식 출시했습니다. 이를 통해 개발자들은 GLM-5.3을 자신의 에이전트 및 애플리케이션에 통합하여 고도화된 기능을 구현할 수 있게 되었습니다.

블록(Block)이 내부용으로 개발했던 데스크톱 애플리케이션 Berd를 Apache 2.0 라이선스로 오픈 소스화했습니다. Berd는 브라우저 기반이 아닌 로컬 설치형 환경을 제공하며, 사용자가 다양한 AI 모델과 도구를 단일 워크스페이스에서 통합하여 사용할 수 있게 지원합니다.

AI 에이전트가 자동화된 평가(evals)를 통과했음에도 실제 운영 환경에서 실패하는 사례가 발생하며, 기업들의 대응 방식이 주목받고 있습니다. 자동화된 평가에 대한 신뢰도는 최근 한 달 사이 5%에서 13%로 급증했으나, 정작 기업들은 배포 결정 과정에서 인간의 개인적 개입을 줄이는 방향으로 움직이고 있습니다.

커머스 AI 시장은 지난 3년간 특정 기능을 수행하는 점별 솔루션 위주로 급격히 확장되었으나, 기술 통합 속도가 기능 추가 속도를 따라가지 못해 파편화 문제가 발생하고 있습니다. 이로 인해 막대한 투자 규모에 비해 기업용 AI 솔루션의 성과가 불투명한 상황입니다.

기업들이 모든 AI 작업에 고비용 대형 모델을 사용하는 비효율을 줄이기 위해 모델 라우팅 기술이 주목받고 있습니다. 스노우플레이크는 Cortex AI Gateway에 자동 라우팅 기능을 추가하여, 작업 난이도에 따라 최적의 모델을 배정함으로써 비용과 성능의 균형을 맞출 수 있게 했습니다.