프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 2,724건·최신 업데이트
- 286
LLM, AI 에이전트, RAG 시스템을 위한 오픈소스 레드 팀 프레임워크
AetherRed-Excalibur는 LLM, AI 에이전트, RAG 시스템을 대상으로 프롬프트 인젝션, 데이터 유출, RAG 오염 등 22가지 공격 카테고리를 테스트하는 오픈소스 보안 평가 도구입니다. 이 프레임워크는 MITRE ATLAS 매핑과 LLM 기반 평가를 통해 AI 시스템의 보안 회복탄력성을 점수화하고 상세한 보안 보고서를 생성합니다.
Open-Source Red Teaming Framework for LLMs, AI Agents, and RAG Systems↗dev.to
- 292
OSLabs 엔지니어 3명이 Claude 과다 지불을 감지하는 CLI를 구축한 방법
PennyWyze는 사용자의 프롬프트와 정답 데이터셋을 활용해 Claude의 각 모델(Opus, Sonnet, Haiku)을 테스트하고, 설정된 정확도 기준을 충족하는 가장 경제적인 모델을 추천합니다. 실제 토큰 사용량을 기반으로 비용을 계산하며, 정확도가 기준 미달인 모델은 테스트를 조기에 중기하여 API 비용 낭비를 방지합니다.
How three OSLabs engineers built a CLI to catch you overpaying Claude↗dev.to
- 298
당신의 AI 코딩 에이전트는 보안 검토자입니다. 간단한 지시만 필요합니다.
기존 AI 코딩 에이전트(Claude Code, Cursor 등)의 보안 리뷰 결과가 일관되지 않고 추적하기 어렵다는 문제를 해결하기 위해, secfoo는 에이전트에게 구조화된 프롬프트(skill)를 제공하여 결과물의 형식을 고정합니다. 이를 통해 보안 취약점을 지속적으로 추적하고 관리할 수 있는 로컬 중심의 보안 검토 프레임워크를 제공합니다.
Your AI coding agent is a security reviewer. It just needs a brief.↗dev.to
















