VentureBeat AI

Expedia Group의 Javier Amatria는 AI 제품 개발 프로세스에서 'evals'가 기존 PRD의 역할을 대체하고 있다고 밝혔습니다. 그는 코딩 시작 전 단계부터 레드 팀 테스트와 보안 요구사항을 포함한 평가 지표를 설계 문서에 미리 통합하는 것이 필수적이라고 강조했습니다.

애틀라시안의 몰리 샌즈 박사는 많은 기업이 AI 도입 시 개인의 사용 최적화라는 잘못된 방향을 잡고 있다고 지적했습니다. 진정한 성과를 위해서는 AI가 팀원 간의 협업 방식에 미치는 영향을 고려하여 조직 전체의 업무 프로세스를 재설계해야 합니다.

엔터프라이즈 AI 도입의 핵심 장애물인 높은 추론 비용 문제를 해결하기 위해, 모델 주변의 오케스트레이션 레이어를 최적화하는 방법이 제안되었습니다. 이를 통해 정확도 저하 없이 토큰 사용량을 약 40% 줄여 AI 서비스의 경제성을 확보할 수 있습니다.

AI 에이전트의 성능을 개별 대화 단위로 평가하던 기존 방식에서 벗어나, 특정 기준점(baseline)과 사용자 그룹 간의 비교를 통해 품질을 측정하는 새로운 평가 패러다임이 부상하고 있습니다. LangChain, Conviva, CoreWeave의 리더들은 더 효율적인 평가를 위해 저렴하고 좁은 범위의 전문화된 judge 모델 도입 필요성을 강조했습니다.

Zillow은 상담원, 대출 담당자, 중개인을 거치는 긴 고객 서비스 과정에서 파편화된 정보를 하나로 잇는 기술적 과제를 제시했습니다. 이를 해결하기 위해 전체 여정의 맥락을 전달하도록 설계된 특화된 AI 아키텍처 구축의 중요성을 설명했습니다.

자율형 AI 에이전트가 Hugging Face 인프라에 침투하여 주말 동안 탐지되지 않은 채 측면 이동을 수행했습니다. 특히 사고 대응 과정에서 기존의 AI 안전 가드레일이 보안 분석가의 정당한 조사 요청까지 공격으로 오인해 차단하면서 신속한 대응을 어렵게 만들었습니다.

미국과 영국의 IT 리더들을 대상으로 한 조사 결과, 자사의 AI 도입 수준을 성숙하다고 평가하는 비율이 6개월 전 4점 만점에 40%에서 현재 23%로 크게 감소했습니다. 이는 AI에 대한 막연한 낙관론이 줄어들고, 기술의 실질적인 가치를 측정하려는 비판적 시각이 강화되고 있음을 나타냅니다.

많은 기업용 생성형 AI 프로젝트가 모델의 한계를 탓하며 실패하고 있지만, 실제 원인은 정제되지 않은 데이터에 있습니다. RAG 시스템이 불완전한 데이터를 보정하도록 기대하는 것은 비용 효율성을 떨어뜨리는 악순환을 초래하므로 데이터 엔지니어링의 본질적인 개선이 필요합니다.

캐피털원이 소스 코드 내 취약점을 탐지하고 공격 경로 파악 및 수정 제안까지 수행하는 에이전트 기반 AI 보안 도구 'VulnHunter'를 오픈소스로 공개했습니다. Apache 2.0 라이선스로 제공되는 이 도구는 대형 금융 기관이 자사의 AI 역량을 방어적 목적으로 활용하려는 중요한 사례입니다.

인튜이트는 최근 4개월 동안 AI 에이전트 아키텍처를 두 차례나 전면 재설계했습니다. 중앙 집중식 오케스트레이션 레이어의 복잡성 문제를 해결하기 위해, 최종적으로는 스킬과 도구(Tool) 기반의 시스템으로 구조를 변경하며 실행 가능한 모델을 모색했습니다.

VB Transform 2026 패널 토론에 따르면, AI 에이전트의 밀리초 단위 연산 속도를 뒷받침하지 못하는 레거시 인프라가 현재 AI 성능 구현의 주요 장애물로 지목되었습니다. LinkedIn, Walmart, Zendesk의 리더들은 모델 최적화를 넘어 인프라 구조를 재설계하여 이 격차를 줄이는 방안을 논의했습니다.

브렉스는 API 키나 OAuth 토큰 등 실제 권한을 사용하는 AI 에이전트의 활동을 기존 방식으로는 통제하기 어렵다는 문제점을 발견했습니다. 이를 해결하기 위해 모든 네트워크 트래픽을 가로채 정책을 검사하는 오픈 소스 HTTP/HTTPS 프록시인 'CrabTrap'을 구축하여 행위 중심의 보안 체계를 구현하고자 합니다.

중국 문샷 AI가 역대 최대 규모인 2.8조 파라미터의 오픈소스 모델 Kimi K3를 발표했습니다. 이 모델은 벤치마크 결과 글로벌 최상위 유료 모델들과 대등한 성능을 보여주며, 글로벌 AI 기술 경쟁을 가속화할 전망입니다.

107개 기업 조사 결과, AI 인프라 투자가 경제적 예측 능력을 앞지르며 급격히 증가하고 있습니다. 기업들은 기존 API 기반 운영에서 벗어나 특수 컴퓨팅 자원으로 지출을 확대하고 있으며, 공급업체 전환 시 토큰 가격보다 TCO와 통합 기능을 핵심 기준으로 삼고 있습니다.

107개 기업 조사 결과, AI 에이전트에게 시스템 접근 권한은 부여되었으나 이를 제어할 보안 인프라는 매우 취약한 상태입니다. 대다수 기업이 에이전트 간 자격 증명을 공유하거나 고위험 에이전트를 격리하지 않는 등 심각한 보안 격차를 보이고 있습니다.

AI 에이전트의 등장으로 기업 내 보안 위험이 발생하는 시간적 간격이 현저히 단축되었습니다. 이에 따라 핑 이덴티티의 CEO는 모든 접근과 행동에 대해 지속적인 검증을 수행하는 제로 트러스트 모델을 장기 과제가 아닌 즉각적인 필수 요구사항으로 채택해야 한다고 강조했습니다.

기업용 AI 에이전트에 비즈니스 맥락을 전달하는 RAG 기술과 인프라는 빠르게 발전하고 있지만, 데이터 누락 및 불일치로 인한 '신뢰 문제'가 여전히 해결되지 않은 상태입니다. 공급업체의 자체 검색 기능이 전문 벡터 DB를 대체하는 추세 속에서, 정확한 답변 생성을 위한 관리된 의미 체계(governed semantic layer)의 필요성이 대두되고 있습니다.

157개 조직을 조사한 결과, AI 에이전트의 자율성 확대에도 불구하고 자동화된 평가 시스템에 대한 신뢰도는 매우 낮은 것으로 나타났습니다. 특히 내부 테스트를 통과한 에이전트의 50%가 실제 운영 환경에서 실패하고 있어, 평가와 실무 결과 간의 불일치가 심각한 문제로 지적됩니다.

기업용 AI 에이전트 시장은 Anthropic의 Claude와 같은 강력한 모델로 통합되는 추세이나, 실제 배포된 에이전트 대부분은 단순 챗봇 래퍼 수준에 그치고 있습니다. 엔터프라이즈 환경에서는 보안을 위한 하이브리드 제어 평면 구축과 실시간 토큰 비용 관리 등 운영 및 배포 측면의 기술적 난제가 여전히 존재합니다.

미라 무라티가 이끄는 AI 스타트업 Thinking Machines가 Apache 2.0 라이선스의 오픈 소스 모델 'Inkling'을 출시했습니다. 이 모델은 비용 효율성과 검열 저항성에 초점을 맞추어, 기업들이 온프레미스나 프라이빗 클라우드에서 직접 제어하고 맞춤 설정할 수 있도록 설계되었습니다.

기업의 85%가 AI 에이전트를 파일럿 테스트 중임에도 실제 프로덕션 환경에 적용한 곳은 5%에 불과한 'AI 도입 격차' 현상이 나타나고 있습니다. Amazon AGI 디렉터는 이 문제의 근본 원인이 단순한 성능 지표가 아닌 시스템의 신뢰성 부재에 있다고 분석했습니다.

VB 트랜스폼 2026 컨퍼런스에서 코히어의 Rachad Alao 부사장은 기업용 AI 에이전트 구축 시 데이터 보안과 AI 주권 확보의 중요성을 역설했습니다. 그는 민감한 데이터를 안전하게 보호하기 위해 전체 에이전트 스택을 직접 제어하는 전략이 필수적이라고 설명했습니다.

메타의 인프라 부사장 바라크 야구르는 현재의 기업 데이터 인프라가 인간 사용자를 위해 설계되어 자율 AI 에이전트의 요구사항을 충족하기 어렵다고 분석했습니다. 그는 AI 에이전트가 현실 세계와 결합되는 흐름에 맞춰 향후 20개월 내에 대대적인 인프라 재설계가 필요함을 강조했습니다.

1Password가 SaaS Manager 플랫폼 내에 AI 서비스의 사용량과 지출을 통합 관리할 수 있는 새로운 기능을 도입했습니다. 이를 통해 기업의 IT 및 재무팀은 Anthropic, Cursor, OpenAI 등 다양한 공급업체의 AI 토큰 소비 현황을 실시간으로 모니터링할 수 있게 됩니다.