프롬프트 엔지니어링 뉴스

vLLM과 같은 LLM 서빙 스택을 벤치마킹할 때 프리픽스 캐싱, SSE 청크 카운팅, 설정값 불일치 등 5가지 주요 오류가 성능 지표를 왜곡할 수 있습니다. 이를 방지하기 위해서는 프롬프트 무작위화, 토큰 단위 측정, 그리고 실험 변수의 엄격한 통제가 필요합니다.

AI 에이전트가 외부 데이터를 통해 조종될 수 있는 '간접 프롬프트 주입' 위험을 경고하며, 시스템 프롬프트에만 의존하는 기존 보안 방식의 한계를 지적합니다. 영국 NCSC는 에이전트의 권한 범위를 제한하기 위해 샌드박싱, 인간의 개입 모델, 엄격한 로깅 및 네트워크 통제와 같은 다층적 보안 계층 구축을 권고합니다.

기존의 전통적인 보안 솔루션은 프롬프트 인젝션과 같은 LLM 특유의 의미론적 공격을 탐지하지 못하는 한계가 있습니다. 이를 해결하기 위해 개별 앱 단위의 보안 적용 대신, 모든 AI 트래픽을 중앙에서 검사하고 정책을 적용하는 'AI 게이트웨이' 도입이 대안으로 제시됩니다.

앤스로픽의 클로드 오퍼스 5.5는 프롬프트 주입 저항성과 경계 우회 방지 능력이 크게 향상되었으나, 이는 모델 내부의 안전성일 뿐 에이전트가 사용하는 도구와 권한에 대한 통제는 여전히 개발자의 몫입니다. 따라서 에이전트 스택 구축 시 게이트웨이 도입, 최소 권한 원칙 적용, 도구 호출에 대한 정책 검증 등 인프라 수준의 보안 설계가 필수적입니다.

GPT Prompt Maker 개발자가 ChatGPT, Claude, Gemini 등 주요 AI 도구에서 저장된 프롬프트를 즉시 불러올 수 있는 크롬 익스텐션을 출시했습니다. 이는 탭 전환의 번거로움을 줄여 사용자의 이탈을 막고 워크플로우 내에서 프롬프트를 바로 활용할 수 있도록 돕는 데 목적이 있습니다.

Riggy는 PSD 파일을 채팅 명령만으로 Spine 애니메이션으로 변환해주는 AI 도구로, 최근 슬롯 게임용 심볼 애니메이션 제작 사례를 통해 압도적인 비용 절감 효과를 보여주었습니다. 상세한 초기 프롬프트 작성이 후속 수정 비용을 줄이는 가장 경제적인 전략임을 강조합니다.

AI 에이전트들이 인간 없이 제품을 개발, 리뷰, 판매하는 해커톤에서 Claude Code와 Codex가 협업하여 MCP 검증 도구인 'Scout'을 개발해 3위를 차지했습니다. 이 과정에서 에이전트 간의 실시간 버그 수정과 프롬프트 인젝션 대응, 결제 시스템 구축의 어려움 등 에이전트 경제(Agent Economy)의 핵심적인 도전 과제들이 드러났습니다.

agent-blackbox는 Claude Code와 같은 AI 코딩 에이전트가 민감한 정보를 외부로 유출하는 것을 방지하는 로컬 방화벽이자, 모든 작업 내역을 위변조 불가능하게 기록하는 비행 기록 장치입니다. 별도의 설치 없이 실행 가능하며, 결정론적 규칙을 통해 프롬프트 인젝션 공격을 탐지하고 차단합니다.

개발자 Eitan이 런칭한 Integnit는 프롬프트 입력만으로 강의 구조, 슬라이드, AI 나레이션, 퀴즈 등 완성된 디지털 코스를 생성하는 플랫폼입니다. 제작자는 자신의 지식 베이스를 활용해 맞춤형 강의를 만들 수 있지만, 현재 제품 개발을 넘어 초기 사용자 10~50명을 확보하기 위한 마케팅 전략 수립에 집중하고 있습니다.

PromptlyAI는 사용자가 자연어를 구조화된 프롬프트로 변환하거나 기존 프롬프트를 개선할 수 있는 기능을 제공하는 무료 AI 유틸리티 플랫폼입니다. 코딩, 학습, 글쓰기 등 다양한 분야의 검증된 프롬프트 라이브러리와 주요 AI 도구에 대한 빠른 접근성을 제공하여 AI 활용의 효율성을 높이는 것을 목표로 합니다.

앤트로픽이 클로드 코드(Claude Code)에 메인 에이전트의 작업을 감시하고 보조하는 '알아두어야 할 사항(You should know)' 플러그인을 추가했습니다. 이 기능은 별도의 보조 에이전트를 통해 작업 중 사용자가 인지하지 못한 중요한 내용을 발견하여 사용자에게 알림을 제공합니다.

PrepWise AI는 매일 업데이트되는 최신 시사 뉴스를 자동으로 수집하여 맞춤형 모의 테스트를 생성하는 오픈소스 기반의 교육 플랫폼입니다. 구글의 Gemma 모델을 활용해 비용 효율성을 극대화하고, 뉴스 컨텍스트에 기반한 정확한 해설을 제공하여 수험생의 학습 효율을 높이는 데 집중합니다.

Anthropic과 OpenAI가 코딩 에이전트의 정점을 표방하는 신모델을 동시에 출시하며 개발 워크플로우의 패러다임 변화를 예고했습니다. Opus 4.6은 100만 토큰의 압도적 컨텍스트를 통한 심층 분석에, Codex 5.3은 빠른 속도와 실시간 제어를 통한 효율적 실행에 각각 강점을 보입니다.

단일 크기 청킹 방식이 초래하는 검색 정밀도 저하와 LLM의 환각 현상을 해결하기 위한 계층적 검색 구조를 제안합니다. 자식 청크로 정밀하게 검색하고, 검색된 결과의 부모 문서를 불러와 생성에 필요한 충분한 문맥을 제공하는 것이 핵심입니다.

시스템 프롬프트의 아주 작은 변동이 DeepSeek의 프롬프트 캐싱 메커니즘을 무효화하여 막대한 비용 손실을 초래할 수 있다는 벤치마크 결과가 나왔습니다. 가변 데이터를 프롬프트 끝으로 옮기거나 사용자 메시지에 포함하는 것만으로도 추론 비용을 80% 이상 절감할 수 있습니다.

AI 에이전트가 프로젝트의 맥락을 정확히 이해하려면 과거 대화 조각을 찾는 메모리 방식보다 명세, 지침, 결정 사항을 담은 구조화된 문서가 필요합니다. 이를 통해 에이전트의 작업 흐름을 '프롬프트-참조-구현-갱신'으로 전환하여 지식의 최신성과 정확성을 유지할 수 있습니다.

Perplexity는 웹 페이지 컨텍스트를 이해하고 작업을 수행하는 브라우저 기반 어시스턴트 'Comet'을 출시했습니다. 이와 동시에 Burrowbox는 사용자가 부재 중일 때도 클라우드 상에서 로그인 상태를 유지하며 정기적인 웹 리서치와 데이터 수동 작업을 수행할 수 있는 인프라를 제공합니다.

개발자가 가상의 상점 'Hollis & Pine'의 AI 봇 'Pip'을 대상으로 프롬프트 인젝션 및 탈옥(Jailbreak) 실험을 제안하며, 4가지 구체적인 미션을 통해 AI의 규칙 위반 가능성을 테스트합니다. 이 실험은 AI가 내부 지침을 유출하거나 허용되지 않은 보상을 제공하는 등의 보안 취약점을 찾는 데 목적이 있습니다.

Baize는 장기 대화 시 발생하는 정보 유실과 주의력 분산 문제를 해결하기 위해, 모델이 컨텍스트를 편집할 수 있는 CLM 기술을 시스템 측면의 '투영 레이어'로 구현했습니다. 원본 채팅 로그는 수정하지 않으면서 모델 입력값만 선별적으로 요약하거나 고정하여, 데이터의 신뢰성과 정보 유지력을 동시에 확보하는 것이 핵심입니다.

리걸 컨텍스트 프로토콜(LCP)은 AI 에이전트가 결제 실행 전 판매자의 법적 약관과 분쟁 해결 경로를 JSON 형태로 즉시 확인할 수 있게 하는 표준 규격입니다. 이는 AI 에이전트의 자율적 결정에 따른 책임 소재를 명확히 하여, 낮은 AI 결제 신뢰도를 해결하고 자동화된 경제 생태계의 법적 근거를 마련하는 것을 목표로 합니다.