VentureBeat AI

엔터프라이즈 AI는 대부분 컨텍스트 엔지니어링을 중심으로 구축되어 왔습니다. 팀들은 기업 시스템을 연결하고, 청크와 임베딩을 생성하며, 검색 파이프라인을 구축하여 개별 AI 애플리케이션에 필요한 컨텍스트를 조립합니다. 이러한 접근 방식은 독립적인 어시스턴트 및 코파일럿에게는 효과적이지만, 엔터프라이즈 지식을 공유되는 기업 자산이 아닌 애플리케이션별 컨텍스트로 취급합니다. 조직에서 AI 애플리케이션과 에이전트를 더 많이 배포함에 따라 이 모델은 점차 붕괴되기 시작합니다. 다양한 팀들이 프로

많은 기업이 AI 에이전트에게 높은 자유도를 부여하려 했으나, 실제 대규모 배포 과정에서 예측 불가능한 결과로 인해 실패를 경험하고 있습니다. 이에 따라 성공적인 도입을 위해 에이전트의 행동 범위를 제어하는 방향으로 패러다임이 변화하고 있습니다.

에이전트 AI가 서로 다른 규모의 LLM 간에 작업을 넘길 때 발생하는 재계산 비용과 지연 문제를 해결하는 새로운 기술이 등장했습니다. 엔비디아 연구진은 선형 연산을 통해 소스 모델의 KV 캐시를 대상 모델로 직접 전송함으로써 효율적인 워크플로우 구축을 가능하게 했습니다.

세일즈포스의 슬랙이 Anthropic, GitHub, Vercel 등의 AI 코딩 에이전트를 슬랙 채널에 직접 내장한 '슬랙 코드'를 출시했습니다. 이를 통해 개발팀은 터미널을 벗어나 채팅창 내에서 함께 코드를 검토하고 소프트웨어를 배포하는 협업 환경을 구축할 수 있습니다.

기업 AI 팀들은 특정 벤더에 대한 의존도를 낮추고 유연성을 유지하기 위해 다중 플랫폼 전략을 채택하고 있습니다. 현재 기업들은 평균적으로 세 개의 오케스트레이션 플랫폼을 동시에 운영하며, 이는 벤더의 보안 및 권한 관리 기능에 대한 불신과 자체 제어 능력 확보를 위한 결과입니다.

NanoCo는 슬랙 내에서 손쉽게 AI 에이전트를 생성하고 관리할 수 있는 저코드(low-code) 플랫폼 NanoClaw를 출시했습니다. 이는 기존의 복잡한 AI 통합 과정을 단순화하여, 사용자가 메시지 입력만으로 지속 가능한 AI 에이전트 팀을 구축하도록 돕습니다.

Serval은 기업용 AI 에이전트인 Catalyst를 정식 출시하며 고객들에게 기본 기능으로 제공하기 시작했습니다. 이 에이전트는 티켓 기록과 표준 운영 절차(SOP)를 분석해 반복 작업을 찾아내고, 자동화 워크플로우 초안을 작성하는 '슈퍼 에이전트' 역할을 수행합니다.

샌프란시스코의 ML 스타트업 TrueFoundry가 개발자의 에이전트 제어 능력을 높이고 비용을 낮추는 오픈 소스 도구인 'TrueForge'를 출시했습니다. 이 솔루션은 클로드 매니지드 에이전트와 비교해 작업 완료 비용을 30~75%까지 절감할 수 있는 것으로 나타났습니다.

VentureBeat가 전 TheCube Research의 핵심 인력인 로브 스트레처이를 첫 리드 애널리스트이자 VentureBeat Research의 창립 분석가로 영입했습니다. 이번 영입은 CIO, CTO 등 기업 내 기술 의사결정권자들을 대상으로 엔터프라이즈 AI 스택에 대한 심층적인 전문 분석을 제공하기 위한 전략적 행보입니다.

z.ai는 최근 Cursor의 취약점을 찾아낼 만큼 뛰어난 성능을 보여준 오픈 소스 모델 GLM-5.3의 API를 공식 출시했습니다. 이를 통해 개발자들은 GLM-5.3을 자신의 에이전트 및 애플리케이션에 통합하여 고도화된 기능을 구현할 수 있게 되었습니다.

블록(Block)이 내부용으로 개발했던 데스크톱 애플리케이션 Berd를 Apache 2.0 라이선스로 오픈 소스화했습니다. Berd는 브라우저 기반이 아닌 로컬 설치형 환경을 제공하며, 사용자가 다양한 AI 모델과 도구를 단일 워크스페이스에서 통합하여 사용할 수 있게 지원합니다.

AI 에이전트가 자동화된 평가(evals)를 통과했음에도 실제 운영 환경에서 실패하는 사례가 발생하며, 기업들의 대응 방식이 주목받고 있습니다. 자동화된 평가에 대한 신뢰도는 최근 한 달 사이 5%에서 13%로 급증했으나, 정작 기업들은 배포 결정 과정에서 인간의 개인적 개입을 줄이는 방향으로 움직이고 있습니다.

커머스 AI 시장은 지난 3년간 특정 기능을 수행하는 점별 솔루션 위주로 급격히 확장되었으나, 기술 통합 속도가 기능 추가 속도를 따라가지 못해 파편화 문제가 발생하고 있습니다. 이로 인해 막대한 투자 규모에 비해 기업용 AI 솔루션의 성과가 불투명한 상황입니다.

기업들이 모든 AI 작업에 고비용 대형 모델을 사용하는 비효율을 줄이기 위해 모델 라우팅 기술이 주목받고 있습니다. 스노우플레이크는 Cortex AI Gateway에 자동 라우팅 기능을 추가하여, 작업 난이도에 따라 최적의 모델을 배정함으로써 비용과 성능의 균형을 맞출 수 있게 했습니다.

알리바바가 클라우드 의존도를 낮춘 고성능 오픈소스 모델 Qwen3.8-27B를 Hugging Face에 공개했습니다. 이 모델은 네이티브 이미지 기능을 갖춘 멀티모달 모델로, 로컬 환경에서 강력한 코딩 에이전트와 추론 작업을 수행할 수 있습니다.

AI 코딩 도구 커서가 유료 사용자를 대상으로 자체 코드 호스팅 플랫폼인 'Origin'을 출시했습니다. 마침 GitHub에서 약 6시간 넘는 대규모 서비스 장애와 기능 오류가 발생하면서, 개발자들 사이에서 기존 워크플로우의 취약점과 새로운 AI 네이티브 대안에 대한 관심이 높아지고 있습니다.

RAG 시스템을 최적화할 때 리더 모듈이 검색된 문서 대신 자체 지식을 사용하는 '역할 이동' 현상이 발생하여, 겉으로는 정확도가 높아 보이지만 실제로는 근거 기반 답변이라는 본래 목적을 상실할 수 있습니다. 이는 복합 AI 시스템의 개별 모듈들이 의도된 역할을 우회하며 발생하는 심각한 실패 모드입니다.

별도의 컨텍스트 레이어를 운영하는 기업은 AI 에이전트의 오류를 두 배 이상 더 많이 보고하고 있으며, 이는 주로 누락되거나 불일치한 비즈니스 맥락 때문인 것으로 밝혀졌습니다. VB Pulse July 보고서에 따르면 기업의 68%가 확신에 찬 오답의 원인을 컨텍스트 부재로 지목했습니다.

Fortune 500 기업의 AI 에이전트 사용량이 2028년까지 15만 개 이상으로 폭발적으로 증가할 전망이지만, 이를 관리할 거버넌스 체계는 매우 부족한 실정입니다. 이러한 격차로 인해 개별 AI 모듈을 통합 제어하고 관리할 수 있는 새로운 인프라 계층에 대한 수요가 급증하고 있습니다.

의료, 금융, 운송 등 규제가 엄격한 산업에서는 정확성과 안전성이 보장된 AI를 구축하는 것이 핵심적인 엔지니어링 과제입니다. 이러한 산업들은 규제로 인해 기술 도입이 상대적으로 느리지만, 현재 데이터 인프라 현대화를 통해 이를 극복하려는 움직임을 보이고 있습니다.

대부분의 RAG 시스템이 모든 모호한 사례를 LLM에 전달하여 해결하려 하지만, 이는 높은 추론 비용과 감사 대응의 어려움을 초래합니다. 데이터가 LLM에 도달하기 전 단계에서부터 의사결정 로직을 정교화하여 비용을 절감하고 신뢰성을 확보하는 전략이 필요합니다.

딥시크(DeepSeek)의 V4 플래시 모델이 높은 벤치마크 순위에도 불구하고, 실제 도구를 사용하는 복잡한 에이전트 작업에서는 낮은 성공률을 기록했습니다. 특히 Gmail, GitHub 등 실시간 도구가 포함된 고난도 다단계 작업 중 극히 일부만이 성공하며 모델 성능에 대한 의구심이 커지고 있습니다.

LLM 개발 팀들이 시간과 비용 문제로 인해 정성적 검토에만 의존하며 정확성 검증 단계를 생략하는 경향이 있음을 지적합니다. 특히 모델이 틀린 답을 내놓으면서도 높은 확신을 보이는 현상은 단순한 유창성 확인만으로는 잡아낼 수 없기에 전문적인 평가 도구가 필요합니다.

중국의 AI 스타트업 Z.ai가 코딩 능력과 사이버 보안 기능이 대폭 향상된 새로운 언어 모델 GLM-5.3을 발표했습니다. 특히 이 모델은 최근 SpaceX에 인수된 Cursor에서 잠재적으로 심각한 보안 취약점을 찾아낼 수 있는 능력을 갖춘 것으로 알려져 주목받고 있습니다.