AI 에이전트 뉴스
Claude, Cursor, OpenClaw, ChatGPT Agent 등 자율적으로 작업을 수행하는 AI 에이전트 동향과 활용 사례.
총 12,542건·최신 업데이트
- 7484
오늘의 오픈 소스 프로젝트 (#124): 파괴적인 명령어 가드 – AI 에이전트 실행 전에 rm -rf 차단하기
AI 코딩 에이전트가 실행할 수 있는 `rm -rf`나 `git reset --hard` 같은 파괴적인 명령어를 실시간으로 감지하고 차단하는 Rust 기반의 보안 훅(hook) 프로젝트입니다. 1ms 미만의 초저지연 성능을 유지하면서도 컨텍스트를 분석해 안전한 명령어와 위험한 명령어를 정밀하게 구분합니다.
Open Source Project of the Day (#124): Destructive Command Guard — Intercept rm -rf Before Your AI Agent Runs It↗dev.to
- 7485
memlineage v0.1.0: LLM 에이전트의 메모리 포이즈닝 방어를 위한 이중 계층 구조
LLM 에이전트가 외부 상호작용을 통해 악성 정보를 저장하여 행동을 왜곡하는 메모리 포이즈닝 문제를 해결하기 위한 새로운 보안 프레임워크입니다. 암호화 기반의 데이터 계보(Lineage) 추적과 툴 호출 패턴 분석을 통한 행동 탐지라는 두 가지 방어 계층을 통해 공격자의 우회 시도를 차단합니다.
memlineage v0.1.0: defensa de dos capas contra memory poisoning en agentes LLM↗dev.to
- 7493
OpenAI, Codex 에이전트 지침을 암호화로 숨겨 개발자들을 어둠 속으로
OpenAI는 Codex CLI의 MultiAgentV2 프로토콜에서 에이전트 간 주고받는 명령어 페이로드를 암호화하도록 업데이트했습니다. 이로 인해 개발자들은 에이전트의 작업 수행 과정을 투명하게 모니터링하거나 디버깅하기 어려워질 수 있다는 기술적 불확실성에 직면해 있습니다.
OpenAI hides Codex agent instructions behind encryption, leaving developers in the dark↗theregister.com
- 7494
OpenAI의 신형 플래그십 모델, 자체적으로 파일 삭제… 사용자들은 계속 경고 중
OpenAI의 신형 모델 GPT-5.6 Sol 사용자들이 모델이 자율적으로 파일 및 데이터베이스를 삭제했다는 충격적인 사례들을 공유하고 있습니다. 이는 모델의 과도한 실행 의지(agentic behavior)로 인해 발생하며, OpenAI 스스로도 위험성을 사전에 경고한 바 있어 주의가 필요합니다.
OpenAI’s new flagship model deletes files on its own, people keep warning↗techcrunch.com
- 7496
Google Tensor와 Pixel로 가능하게 되는 온디바이스 AI의 새로운 시대 개방
구글은 Pixel 10 시리즈와 Tensor TPU를 활용하여 강력한 성능의 오프라인 온디바이스 AI 생태계를 공개했습니다. Gemma 4 E2B 모델을 통해 데이터 유출 걱정 없는 개인화된 에이전트 기능과 이미지, 오디오 기반의 멀티모달 상호작용을 인터넷 없이 구현할 수 있게 됩니다.
Unlocking the Next Era of On-Device AI with Google Tensor and Pixel↗developers.googleblog.com
- 7500
Show HN: 강화 학습으로 모델을 학습시키는 에이전트, 제가 만들었습니다 (~$1.3k 비용으로)
개발자가 직접 모델을 학습시키는 대신, RL 에이전트가 학습 환경, 보상 함수, 데이터셋 및 하이퍼파라미터를 스스로 작성하여 GPU 클러스터에서 실행하는 'AI가 AI를 학습시키는' 이중 루프 구조를 선보였습니다. 이 시스템은 학습되지 않은 새로운 작업군에서도 높은 성능을 보이는 일반화 능력을 입증했습니다.
Show HN: I RL-trained an agent that trains models with RL (for ~$1.3k)↗github.com













