AI 에이전트 뉴스

AI 에이전트의 부정행위와 보안 위반을 신고하기 위한 'AI Contact Hotline'과 'agenthotline.ai'가 새롭게 등장했습니다. 이는 에이전트 간의 담합이나 샌드박스 탈출 같은 위험을 방지하기 위한 목적으로, 에이전트가 직접 위반 사례를 제보할 수 있는 체계를 구축하고자 합니다.

Profound는 AI 에이전트의 활용 성과를 한눈에 파악할 수 있는 'Command Center'를 출시했습니다. 이 도구는 활성 사용자, 절감된 시간, 프로젝트 추적 등 핵심 지표를 제공하며, 동종 업계 데이터와 비교하여 자사의 AI 도입 수준을 객รรม적으로 진단할 수 있게 합니다.

Holon은 개발, 리뷰, 문서화, 운영 등 지속적인 책임을 수행하는 멀티 에이전트를 위한 로컬 워크벤치입니다. 에이전트가 작업 진행 상황을 저장하고, 테스트 완료나 사용자 피드백 등 외부 이벤트에 따라 작업을 중단했다가 재개할 수 있는 환경을 제공합니다.

Amazon Bedrock은 동일한 컨텍스트를 반복 사용할 때 비용과 지연 시간을 최적화할 수 있는 프롬프트 캐싱 기능을 도입했습니다. 이 기능은 cachePoint 마커를 통해 이전 요청의 처리된 토큰을 재사용함으로써, 대규모 문서 분석이나 에이전트 워크플로우에서 비용을 획기적으로 낮춰줍니다.

Profound는 대규모 투자를 통해 AI 에이전트가 브랜드 정보를 수집하는 방식에 맞춘 새로운 마케팅 패러다임을 제시합니다. 기업의 맥락과 데이터를 활용해 고품질의 마케팅 콘텐츠를 자동 생성하고 관리하는 'Aim' 플랫폼을 통해 AEO 시장을 공략할 계획입니다.

AI 에이전트의 확산으로 인해 통제되지 않는 '섀도 AI' 위험이 커지면서, 기존의 인간 중심 IAM 대신 에이전트를 독립적인 워크로드로 식별하고 관리하는 새로운 보안 프레임워크가 필요합니다. DigiCert는 DNS를 활용해 에이전트의 권한과 신원을 검증하는 'AI Trust' 모델을 제안하며, 이를 통해 에이전트의 자율성을 유지하면서도 보안 통제를 강화할 수 있다고 강조합니다.

메타가 웹 브라우징과 결제를 수행할 수 있는 AI 에이전트 '뮤즈(Muse)'를 출시했습니다. 이 기사는 메타의 홍보 문구와 실제 엔지니어링 문서 사이의 간극을 지적하며, 에이전트의 보안 전략이 '완벽한 방어'가 아닌 '공격받음을 전제로 한 피해 최소화'에 집중되어 있음을 분석합니다.

뉴로퓨전이 투자 분석 및 금융 추론에 특화된 AI 에이전트 'Valley AI'를 공개하며, 챗, 워크플로우, 리서치 데스크를 통한 자동화된 리서치 환경을 선보였습니다. 자체 금융 데이터 인프라와 특화된 추론 엔진을 통해 데이터 수집부터 시장 감시, 분석 결과 관리까지 통합된 투자 프로세스를 제공합니다.

Lyzr의 Opencontroller는 여러 개의 AI 에이전트를 하나의 통합된 제어 평면에서 관리하고 감독할 수 있게 해주는 도구입니다. 이를 통해 복잡해지는 멀티 에이전트 생태계 내에서 에이전트들의 동작을 일관되게 통제하고 거버넌스를 구축할 수 있습니다.

Anthropic과 METR 출신들이 설립한 AIUC는 AI 에이전트의 보안 및 신뢰성을 검증하는 제3자 감사 및 인증 서비스를 제공합니다. 이들은 사이버 보안 표준인 SOC 2를 모델로 한 AIUC-1 표준을 통해 에이전트의 탈옥, 환각, 데이터 유출 가능성을 테스트하여 기업이 안심하고 AI를 도입할 수 있는 환경을 구축하고자 합니다.

OpenAI와 Anthropic 등 주요 AI 기업 수장들이 현세대 LLM의 위험성을 언급하며 기술 발전 속도 조절과 안전성 확보를 논의하기 시작했습니다. 이와 함께 AI 에이전트 간의 자율적 부정행위 감시 실험 결과와 간 이식 성공률을 높이는 바이오 기술의 발전 등 다양한 기술적 진보가 주목받고 있습니다.

Good Start Labs는 게임 내의 검증 가능한 결과물을 활용해 AI 모델의 전략적 사고와 도구 활용 능력을 학습시키는 연구를 진행 중입니다. 특히 철도 전략 게임인 '1830'을 활용한 실험에서, 특정 학습 설계(multi-turn terminal agent)를 적용했을 때 모델의 금융 연구 성능이 향상되었음을 확인했습니다.

Appwrite 2.0은 AI 에이전트와 개발자를 위한 오픈소스 클라우드 플랫폼의 대대적인 업데이트를 발표했습니다. 이번 업데이트는 AI 기반 애플리케이션 개발을 가속화하기 위한 인프라 혁신에 초점을 맞추고 있습니다.

Arcjet은 개발자가 구축 중인 AI 에이전트를 런타임 단계에서 보호할 수 있도록 설계된 보안 프레임워크입니다. AI 에이전트의 실행 과정에서 발생할 수 있는 보안 위협을 실시간으로 감지하고 방어하는 데 집중합니다.

소프트웨어 개발 방식이 AI에게 질문하고 답을 얻는 '보조' 단계에서, 에이전트에게 목표를 부여하고 실행을 맡기는 '협안' 단계로 진화하고 있습니다. 이를 위해 파편화된 대화가 아닌, 작업(Task)을 중심으로 모든 실행 기록과 피드백을 통합 관리하는 공유 컨텍스트 기반의 워크플로우 구축이 핵심입니다.

AI 에이전트가 도구를 사용하여 시스템을 변경하는 시대에는 기존의 채팅 로그 방식이 보안 감사 증거로 인정받기 어렵습니다. 감사인은 에이전트의 의도가 아닌 실제 실행 결과를 에이전트 외부의 독립적인 소스를 통해 재현 가능한 형태로 요구할 것입니다.

AI 에이전트가 인프라의 단순 관리 업무는 성공적으로 수행했으나, 비즈니스 상황을 고려하지 않은 조치로 인해 중요한 프로세스를 중단시키거나 근본 원인 해결 없이 증상만 반복 조치하는 한계를 보였습니다. 결국 AI를 자율 운영자가 아닌, 데이터를 수집하고 초동 조치를 제안하는 '어시스턴트'로 활용하는 것이 가장 효율적인 전략임이 증명되었습니다.

AI 코딩 에이전트가 이미 존재하는 보일러플레이트와 설정 파일을 인식하지 못하고 불필요하게 재구축하는 비효율적인 패턴을 분석합니다. 이를 방지하기 위해 에이전트가 기존 자산을 활용하도록 하는 최적화된 워크플로우의 필요성을 강조합니다.

카카오페이가 AI 에이전트가 사용자의 지갑 권한을 위임받아 물품과 서비스를 자율적으로 구매 및 정산할 수 있는 '에이전틱 결제' 기술 실증(PoC)을 마쳤습니다. 이번 기술은 AI 에이전트와 카카오페이의 결제 인프라를 연결하여 스테이블코인을 통한 자율적 거래를 가능하게 하는 것이 핵심입니다.

뉴로퓨전은 재무제표와 공시 등 정제된 데이터를 활용해 투자 분석을 지원하는 '투자 리서치 AI 에이전트'를 밸리 AI 플랫폼에 새롭게 선보였습니다. 한편 솔트룩스는 천경해운 임직원을 대상으로 기업 맞춤형 AI 및 AX(AI Transformation) 교육 프로그램을 진행하며 산업 현장의 AI 도입을 지원하고 있습니다.