프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 863건·최신 업데이트
- 462
한 주 동안 네 개의 CVE, 모두 같은 형태: 에이전트가 LLM 생성 코드를 실행할 때
최근 일주일 사이 발견된 4개의 CVE 사례는 모두 AI 에이전트가 LLM의 출력값을 SQL, Python, Shell 등 권한이 있는 실행 환경(Sink)에 검증 없이 전달할 때 발생하는 동일한 취약점을 보여줍니다. 이는 프롬프트 인젝션(LLM01)과는 별개로, LLM의 결과물을 신뢰할 수 없는 입력값으로 취급하지 않은 '부적절한 출력 처리(LLM05)'의 문제입니다.
Four CVEs in a week, all the same shape: when agents execute LLM-generated code↗dev.to
- 469
DeepSeek V3.2 툴 호출이 순차적 시스템 지시와 어긋나는 이유
DeepSeek V3.2의 툴 호출(tool calling)이 순차적 지시를 따르지 못하는 이유는 모델의 지능 문제가 아니라, 텍스트 생성 후 파싱하는 '파서 기반(parser-based)' 방식의 구조적 한계 때문입니다. 이를 해결하기 위해서는 단순한 프롬프트 수정을 넘어, 제약 조건이 있는 디코딩(Constrained Decoding)이나 정교한 에러 복구 로직 등 시스템 아키텍처 차원의 엔지니어링 접근이 필요합니다.
Why DeepSeek V3.2 Tool Calls Can Drift from Ordered System Instructions↗dev.to
- 472
Profound에서 프롬프트 연구 보고서 출시
Profound가 15억 개 이상의 실제 사용자 프롬프트 데이터를 기반으로 한 '프롬프트 연구 보고서(Prompt Research Report)'를 출시했습니다. 이 서비스는 기존의 추측성 SEO 키워드 방식에서 벗어나, ChatGPT, Perplexity 등 AI 검색 엔진에서 사용자가 실제로 던지는 질문을 분석하여 브랜드의 가시성을 최적화할 수 있는 데이터 기반의 GEO(Generative Engine Optimization) 솔루션을 제공합니다.
Introducing Prompt Research Reports in Profound↗tryprofound.com
- 474
Google, AI 검색에 링크 및 링크 컨텍스트 추가
구글이 AI Overviews 및 AI Mode 등 생성형 AI 검색 경험 내 링크 표시 방식을 개선하는 5가지 업데이트를 발표했습니다. 이번 업데이트는 구독 라벨링, 인라인 링크 확대, 소셜 미디어 프리뷰 등을 통해 AI 답변이 사용자의 웹 탐색을 중단시키는 '데드 엔드(Dead end)'가 아닌, 심층 탐색을 위한 '시작점'이 되도록 설계되었습니다.
Google Adds More Links & Link Context To AI Search via @sejournal, @MattGSouthern↗searchenginejournal.com
- 477
5개의 작은 라이브러리를 구축하여 프로덕션 환경에서 AI 에이전트의 오작동을 막았습니다.
AI 에이전트를 실제 프로덕션 환경에 배포할 때 발생하는 컨텍스트 초과, 네트워크 환각, 데이터 파싱 오류 등 치명적인 '플러밍(Plumbing)' 문제를 해결하기 위한 5가지 경량 TypeScript 라이브러리를 소개합니다. 이 라이브러리들은 복잡한 아키텍처 변경 없이도 에이전트의 안정성과 신뢰성을 즉각적으로 높여줍니다.
I Built 5 Tiny Libraries to Stop My AI Agents from Misbehaving in Production↗dev.to
- 480
프롬프트 압축 벤치마커: 측정 가능한 품질 추적을 통해 LLM 입력 비용 35–63% 절감
프롬프트 압축 벤치마커(PCB)는 LLM 입력 토큰 비용을 35~63%까지 절감할 수 있도록 최적의 압축 알고리즘을 찾아주는 도구입니다. 사용자의 실제 데이터를 바탕으로 압축 시 발생하는 품질 저하와 예상되는 비용 절감액을 정밀하게 측정하며, 검증된 알고리즘을 기존 클라이언트에 즉시 적용할 수 있는 미들웨어를 제공합니다.
Prompt Compression Benchmarker: Cut LLM Input Costs by 35–63% With Measurable Quality Tracking↗dev.to













