AI 에이전트 뉴스

연구진은 '워크플로우 수준의 탈옥(workflow-level jailbreak)' 기법을 통해 AI 코딩 에이전트의 보안 가드레일이 무력화될 수 있음을 증명했습니다. 채팅으로는 거부되던 유해한 요청도 코드 작성 및 데이터 처리 과정의 일부로 분산시키면 모델이 이를 정상적인 작업으로 인식하여 100% 실행한다는 사실이 밝혀졌습니다.

Sim은 AI 에이전트와 워크플로우를 효율적으로 설계하고 실행할 수 있는 오픈소스 기반의 작업 공간입니다. 1,000개 이상의 외부 서비스 및 다양한 대규모 언어 모델(LLM)과 연동하여 복잡한 AI 자동화 프로세스를 구축할 수 있도록 지원합니다.

Coasty는 AI 에이전트의 보안 취약점을 해결하기 위해 개별적인 격리 VM을 제공하는 인프라와, API가 없는 환경에서도 화면 기반으로 데스크톱 소프트웨어를 제어하는 기술을 발표했습니다. 의료, 보험, 회계 등 레거시 시스템 활용이 필수적인 산업군을 타겟으로 자동화 범위를 확장하고 있습니다.

Speechify가 세계 최고 수준의 성능을 자랑하는 Simba 3.2 모델을 기반으로 한 'Simba Voice Agents' 플랫폼을 출시했습니다. 이 플랫폼은 100ms 미만의 초저지연 응답과 스트리밍 네이티브 기술, 감정 표현 기능을 제공하여 개발자들이 상용 수준의 음성 에이전트를 손쉽게 구축할 수 있도록 지원합니다.

AI 에이전트 개발의 난제는 단순한 텍스트 생성을 넘어 실제 환경에서의 복잡한 워크플로우와 도구 사용 실패 사례를 학습하는 데이터 확보에 있습니다. NVIDIA는 기업의 독점적 데이터를 보호하면서도 고품질의 지식을 공유할 수 있는 해결책으로 합성 데이터(Synthetic Data)를 통한 에이전트 학습 생태계 확장을 강조합니다.

SK텔레콤은 내년부터 T 월드 매장에 AI 에이전트를 도입하여 고객 대상 검색 및 상담 기능을 강화하고, 대리점주를 위한 맞춤형 컨설팅 도구도 개발할 계획입니다. 한편 NC AI의 음성 생성 서비스 '바르코 보이스'는 ITU(국제전기통신연합) 관련 소식을 통해 기술력을 알리고 있습니다.

OpenAI는 사용자의 말을 끊거나 동시에 듣고 말할 수 있는 풀듀플렉스(Full-duplex) 모델인 GPT-Live-1과 mini를 출시했습니다. 이 모델은 기존의 단계적 처리 방식을 넘어 더 자연스러운 대화와 시각적 정보 결합, 에이전트 중심의 복잡한 작업 수행을 목표로 합니다.

FlutterFlow가 인간과 AI 에이전트가 공동으로 작업할 수 있는 단일 프로젝트 공간인 'Campus'를 공개했습니다. 이 플랫폼은 레포지토리, 터미널, 프로젝트 지식 및 대화 내역을 하나의 지속적인 워크스페이스에 통합하여 개발 과정에서의 컨텍스트 파편화 문제를 해결하고자 합니다.

LLM의 연산 효율성을 높이려는 새로운 모델의 등장과 중국의 뇌-컴퓨터 인터페이스(BCI) 승인, 그리고 AI 에이전트 기반의 소프트웨어 개발 방식 변화를 다룹니다. AI가 단순한 도구를 넘어 기술적 한계 돌파와 노동 시장의 구조적 변화를 어떻게 이끌고 있는지 조명합니다.

앤트로록이 기존 데스크톱 중심이었던 AI 업무 에이전트 '클로드 코워크'를 모바일 및 웹 베타 서비스로 확대 출시합니다. 이를 통해 사용자는 기기 상태와 상관없이 언제 어디서나 AI에 업무를 위임하고 진행 상황을 확인할 수 있는 환경을 갖추게 됩니다.

프라임 인텔렉트가 10억 달러의 기업 가치를 인정받으며 1억 3천만 달러 규모의 시리즈 A 투자를 유cal했습니다. 이 스타트업은 컴퓨팅 파워, 강화 학습 프레임워크, 평가 도구를 통합한 플랫폼을 통해 기업이 독자적인 AI 에이전트를 개발할 수 있도록 지원합니다.

Constellation Gate AI는 기존 AI 에이전트에 별도의 코드 수정 없이 적용 가능한 보안 및 비용 최적화 인프라 도구입니다. 프롬프트 인젝션 방어에서 97.4%의 높은 성능을 입증했으며, 블록체인 기반의 감사 추적과 20% 이상의 토큰 절감 기능을 제공합니다.

생성형 AI 에이전트를 상용 서비스로 운영하기 위해 AWS WAF를 통합하여 보안 및 트래픽 제어를 구현하는 방법을 다룹니다. Lambda 프록시를 활용한 유연한 변환 방식과 VPC 엔드포인트를 직접 타겟팅하는 저지연 방식이라는 두 가지 설계 패턴을 통해 인증 충돌 문제를 해결하는 방안을 설명합니다.

본 기사는 파인튜닝의 높은 비용과 복잡성을 피하기 위해 LangChain의 에이전트 하니스 프로필을 활용하여 모델의 정확도를 개선하는 '하니스 엔지니어링' 기술을 소개합니다. 프롬프트 수정, 미들웨어 추가 등을 통해 오픈 소스 모델의 성능을 최적화하고 자동화된 루프를 통해 지속적으로 개선하는 프로세스를 다룹니다.

Wiz 연구팀은 Amazon Q, Claude Code, Cursor 등 주요 AI 코딩 도구에서 심볼릭 링크를 통해 시스템 권한을 탈취할 수 있는 'GhostApproval' 취약점을 발견했습니다. 이 공격은 사용자의 확인 절차를 우회하여 개발자 머신의 민감한 파일에 원격 코드를 실행할 수 있게 합니다.

아르고스 아이덴티티가 KB국민은행과 글로벌 법인 고객을 위한 AML(자금세탁방지) 및 KYB(고객확인) 업무 자동화 PoC를 진행합니다. AI 에이전트 플랫폼 'Omni'를 통해 복잡한 규제 검토 과정을 자동화하고, 담당자의 판단을 지원하는 Human-in-the-Loop 구조를 구현하는 것이 핵심입니다.

AI를 활용한 취약점 공격 자동화로 인해 보안 방어자의 부담이 폭증하는 '보안 퍼펙트 스톰'에 대비해야 한다는 목소리가 높습니다. 이를 위해 국가 차원의 CAISO 도입과 함께 AI 에이전트의 신원 검증, 프롬프트 인젝션 차단 등 8대 핵심 보안 체계 확립이 필요하다고 강조되었습니다.

메타가 차세대 미디어 생성 모델인 뮤즈 이미지와 뮤즈 비디오를 발표하며 에이전트형 AI 경쟁에 본격적으로 나섰습니다. 이 모델들은 단순한 콘텐츠 제작을 넘어 검색과 코딩 등 외부 도구를 활용하고 추론할 수 있는 능력을 갖춘 것이 특징입니다.

Routebase는 API 설계서, 문서, 테스트 코드 간의 불일치(API drift) 문제를 해결하는 QA 소프트웨어입니다. 스펙을 변경하면 모든 관련 요소가 자동으로 업데이트되어 단일 진실 공급원 역할을 수행하며, AI 에이전트와의 연동도 지원합니다.

마케팅 예산 압박과 AI 도입이 가속화되는 상황에서, 새로운 벤더 추가보다는 기존 데이터 인프라의 최적화가 핵심입니다. 마케터의 역할은 단순 세그먼트 관리를 넘어 목표를 설정하고, AI 에이전트가 데이터를 기반으로 최적의 실행 경로를 제안하는 '결과 중심의 오케스트레이션' 시대로 진입하고 있습니다.