프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 2,724건·최신 업데이트
- 244
10개의 오픈소스 프롬프트 인젝션 탐지기, 629건의 실제 공격, 하나는 51% 통과
10개의 오픈소스 프롬프트 인젝션 탐지기를 대상으로 한 실험 결과, 가장 우수한 모델조차 실제적인 '매립형(buried)' 공격의 51%만을 탐지하는 데 그쳤습니다. 이는 공격이 정상적인 텍스트나 도구 출력값 속에 숨겨질 경우, 전체 문맥의 점수가 희석되어 탐지 성능이 급격히 저해되는 구조적 한계를 보여줍니다.
10 Open-Source Prompt Injection Detectors, 629 Real Attacks, One Passed 51%↗dev.to
- 246
코드 리뷰는 (자동화 가능한) 탐지 이상으로 더 많은 것을 포함한다
코딩 에이전트가 코드 리뷰의 모든 기능을 수행하여 인간을 대체할 수 있다는 주장에 대해, 리뷰어의 '이해 불가능함' 자체가 코드의 결함을 나타내는 중요한 신호라는 점을 강조합니다. 또한, 코드 리뷰는 단순한 검증을 넘어 의도 파악, 누락된 요소 감지, 팀 내 지식 공유 및 외부 컨텍스트 반영을 포함하는 고도의 인지적 활동임을 역설합니다.
There is more to code review than (automatable) detection↗adaptivecapacitylabs.com
- 257
내 프롬프트 인젝션 수정은 20건의 공격 중 0건을 막았습니다. 제가 거의 만들지 않았던 부분이 전부를 막았습니다.
AI가 작성한 답변의 정확성을 검증하는 시스템에서 발생할 수 있는 프롬프트 인지 공격을 방어하기 위한 실험적 과정을 다룹니다. 정규표현식 기반의 전통적인 보안 방식은 정교한 우회 공격에 무력화되었으나, 최종적으로는 LLM 판사(Judge) 모델이 공격의 의도를 감지하도록 프롬프트를 개선함으로써 공격을 성공적으로 차단했습니다.
My prompt-injection fix caught 0 of 20 attacks. The part I almost didn't build caught all of them.↗dev.to
- 258
DevOps AI 에이전트용 회로 차단기: Kill Switches, Action Budgets, 그리고 자동 읽기 전용으로의 강등
AI 에이전트가 인프라를 조작할 때 발생할 수 있는 예기치 못한 장애를 막기 위해 킬 스위치, 실행 예산, 자동 읽기 전용 전환과 같은 회로 차단기 메커니즘이 필요합니다. 이는 단순한 프롬프트 지시가 아닌, 인프라 계층에서 강제되는 결정론적 제어 장치를 통해 에이전트의 오작동과 비용 급증을 방지하는 데 목적이 있습니다.
Circuit Breakers for DevOps AI Agents: Kill Switches, Action Budgets, and Auto-Demotion to Read-Only↗dev.to
- 260
스크린 리더를 망가뜨리지 않는 i18n 파이프라인 구축: 개발자를 위한 EAA 규정 준수
유럽 접근성법(EAA)은 번역된 텍스트가 사용자에게 얼마나 이해 가능한지를 중요하게 다룹니다. 개발자는 텍스트 잘림, 언어별 문법적 불일치, RTL(우측에서 좌측으로 읽기) 구조 파괴를 막기 위해 컨텍스트가 포함된 i18n 파이프라인과 자동화된 CI 검증 프로세스를 구축해야 합니다.
Building an i18n Pipeline That Doesn't Break Screen Readers: EAA Compliance for Devs↗dev.to














