AI 에이전트 뉴스

AI 코딩 에이전트가 코드 작성은 잘하지만, API 키 발급과 같은 수동 작업에서 흐름이 끊기는 문제를 해결하기 위해 브라우저 기반 자동화 도구인 'Trusty Squire'가 공개되었습니다. 이 도구는 보안을 위해 원본 키를 노출하지 않는 Write-only 방식의 볼트 시스템을 통해 안전하게 외부 SaaS 서비스를 프로비저닝합니다.

알리바<0xAE>바는 복잡한 워크플로우 내에서 수많은 도구 중 적절한 기술을 선택하는 문제를 해결하기 위해 SkillWeaver 프레임워크와 SAD 기술을 발표했습니다. 이 기술은 작업 단계별로 필요한 기술만 선별적으로 로드하여 에이전트 운영에 드는 토큰 비용과 복잡성을 획기적으로 낮춥니다.

가트너의 분석에 따르면 에이전트형 AI 기술은 기존 SaaS 소프트웨어 지출의 상당 부분을 대체할 잠재력을 가지고 있습니다. 기업 리더들은 단순한 기능 도입을 넘어 워크플로우 매핑과 데이터 품질 검증을 포함한 전략적 접근을 통해 기술 부채와 운영 리스크를 관리해야 합니다.

AI 에이전트가 자율적으로 업무를 수행함에 따라 기존 IAM으로는 통제할 수 없는 권한 남용 및 책임 소재 불분명 문제가 발생하고 있습니다. CLAIIM은 에이전트의 행동을 사전에 검증하고, 모든 결정 과정을 변경 불능한 감사 로그로 기록하여 신뢰할 수 있는 AI 거버넌스 체계를 구축하는 솔루션을 제안합니다.

AI 에이전트의 메모리를 모델 가중치에 통합하는 파라메트릭 방식은 빠르지만 투명성과 제어력이 부족합니다. 반면 외부 엔그램을 활용한 비파라메트릭 방식은 데이터의 검증, 교정, 삭제가 가능하여 신뢰할 수 있는 에이전트 구축에 필수적입니다.

현재 AI 에이전트 메모리 분야는 데이터 전달을 위한 MCP(Model Context Protocol)와 데이터 형식을 정의하는 Engram Specification으로 나뉘어 있으나, 두 계층을 아우르는 통합 표준은 없습니다. 이로 인해 서로 다른 에이전트 도구 간에 학습된 지식을 공유하거나 연속성을 유지하는 것이 불가능한 파편화된 상황입니다.

Simon Willison은 자신의 LLM 라이브러리를 기반으로 구축된 초기 단계의 코딩 에이전트 'llm-coding-agent'를 공개했습니다. 이 에이전트는 파일 읽기/쓰기, 셸 명령 실행, 검색 등 다양한 도구를 사용하여 스스로 코드를 작성하고 테스트하며 개발 프로세스를 자동화할 수 있는 기능을 갖추고 있습니다.

AI 에이전트 운영 중 발생하는 비용과 성능에 대한 가시성 부족 문제를 해결하기 위해, 복잡한 오픈소스 모니터링 스택 대신 AgentGateway의 최신 내장 UI를 활용하는 사례를 다룹니다. 간단한 설정 변경만으로 모델별 토큰 사용량, 비용 추산, 실시간 로그 확인이 가능해져 운영 효율성을 극대화할 수 있습니다.

이 글은 DSPy 프레임워크를 사용하여 Datasette Agent의 SQL 쿼리 생성 성능을 평가하고 최적화하는 과정을 다룹니다. Claude Code와 같은 AI 에이전트를 활용해 시스템 프롬프트의 취약점을 찾아내고, 스키마 정보 제공 방식을 개선함으로써 LLM의 실행 오류를 줄이는 구체적인 사례를 보여줍니다.

Sysdig 연구팀은 LLM이 자율적으로 공격 시나리오를 실행한 'JadePuffer' 랜섬웨어 사례를 공개했습니다. 이 에이전트는 Langflow의 취약점을 통해 침투한 뒤, 스스로 코드를 수정하고 타겟을 탐색하며 데이터베이스 스키마를 삭제하여 복구가 불가능한 피해를 입혔습니다.

Amazon SageMaker AI는 도구 사용과 피드백 반영이 필수적인 멀티턴 에이전트 학습을 위한 전용 훈련 루프(MTRL)를 제공합니다. 서버리스 실행, 비동기 데이터 수집, 최신 알고리즘 라이브러리를 통해 인프라 관리 부담 없이 정교한 에이전틱 워크플로우를 구축할 수 있도록 지원합니다.

코딩 에이전트의 발전으로 개발자가 코드의 맥락을 놓치는 '인지적 부채' 위험이 커지고 있습니다. Geoffrey Litt는 에이전트와 협업하며 창의적인 프로세스에 참여하기 위해서는 에이전트가 수행하는 작업을 깊이 있게 이해하고 개념적 유창성을 유지해야 한다고 강조합니다.

Cloudflare는 AI 크롤러를 Search, Agent, Training 세 가지 유형으로 분류하여 관리하는 새로운 제어 기능을 도입합니다. 9월 15일부터 적용되는 기본 설정에 따라 학습용 크롤러를 차단할 경우, 검색과 학습을 동시에 수행하는 구글봇 등 주요 검색 엔진의 접근까지 네트워크 레벨에서 차단될 위험이 있습니다.

SAP는 AI 중심의 성장을 위해 비(非) AI 관련 채용과 출장, 공급업체 지출을 제한하는 강력한 비용 절감 정책을 시행합니다. 이는 Joule Studio 2.0 등 '자율 기업' 구현을 위한 AI 플랫폼 및 에이전트 기술 개발에 자원을 집중하기 위함입니다.

소프트캠프는 AI 에이전트의 자율적 도구 사용과 접근 권한을 제어하기 위한 'SHIELD AI Gateway' 등 차세대 보안 솔루션을 선보였습니다. 기존의 문서 보안(DRM) 및 원격 브라우저 격리(RBI) 기술을 활용해 AI 에이전트의 행위를 추적하고 데이터 기반의 안전한 AI 활용 환경을 구축하는 것이 핵심입니다.

Expedia와 Booking.com은 여행자의 신뢰를 지키는 데 집중하는 반면, Trip.com은 AI 에이전트가 신뢰할 수 있는 인프라가 되는 전략을 취하고 있습니다. 이는 OTA의 역할이 소비자 대상 서비스에서 AI 플랫폼을 위한 데이터 공급원으로 확장될 수 있음을 시사합니다.

Impeccable의 제작자 Paul Bakaus는 AI 에이전트가 단순한 지시를 넘어 전문적인 도메인 언어를 이해하고 실행할 수 있도록 돕는 '스킬 엔지니어링'의 중요성을 강조합니다. 그는 일회성 결과물 생성보다는 인간이 의도를 정교하게 조정(steer)할 수 있는 구조화된 기술 체계가 AI 시대의 핵심 경쟁력이 될 것이라고 주장합니다.

한국디지털인증협회가 스위스 제네바에서 열린 ITU-T 회의에서 AI 에이전트의 DID 기반 신원관리와 연령 보증 시스템 등 3건의 국제표준 과제를 채택시키는 성과를 거두었습니다. 특히 미국 FBI가 공동 참여하는 AI 에이전트 신원관리 표준 개발을 통해 한국이 글로벌 디지털 인증 분야의 핵심적인 역할을 맡게 되었습니다.

ZCode는 GLM-5.2를 기반으로 코딩, 리뷰, 배포 과정을 자동화하는 AI 에이전트 통합 개발 도구입니다. 멀티 에이전트 협업과 장기 작업 관리 기능을 제공하며, 다양한 플랫폼에서 사용 가능한 유료 구독 모델로 운영됩니다.

마이크로소프트는 Bing Webmaster Tools에 'AI Performance' 리포트를 추가하여 기존 검색 랭킹과 AI 답변 내 인용 데이터를 분리해 제공하기 시작했습니다. 이는 에이전트 기반의 새로운 검색 환경(Web IQ)을 대비한 조치로, 페이지 랭킹과 AI 패시지 인용은 서로 다른 최적화 전략이 필요함을 시사합니다.