프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 2,749건·최신 업데이트
- 944
하나의 GPU, 네 가지 공유 방법: 열 가지 시나리오, 그리고 뒤늦게 철회해야 했던 주요 발견
이 기사는 LLM 추론 시 GPU 자원을 공유하는 네 가지 메커니즘의 성능 변화를 실험적으로 비교합니다. NVIDIA Time-slicing 방식이 채팅형 트래픽에는 적합하지만, 긴 컨텍스트를 처리하는 에이전트 작업 시 프리필 속도가 급락한다는 점과 벤치마크 오류를 통해 얻은 기술적 통찰을 전달합니다.
One GPU, four ways to share it: ten scenarios, and the headline finding I had to retract↗dev.to
- 946
Meta의 Muse Glimmer를 활용하여 NVIDIA에서 로컬 에이전트 AI 워크플로우 실행하기
Meta는 120K 이상의 긴 컨텍스트 창을 가진 30B 파라미터 규모의 오픈 웨이트 모델 Muse Glimmer를 출시했습니다. 이 모델은 NVIDIA GPU 환경에서 로컬로 실행되도록 설계되어, 개인정보 보호가 필수적인 복잡한 에이전트 기반 워크플로우를 저비용·고성능으로 처리할 수 있게 합니다.
Run Local Agentic AI Workflows with Meta’s Muse Glimmer on NVIDIA↗developer.nvidia.com
- 949
에이전트가 매일 신뢰할 수 없는 텍스트를 읽습니다. 제가 평가하는 방식은 다음과 같습니다.
AI 에이전트가 도구 호출 결과로 들어오는 신뢰할 수 없는 텍스트에 의해 조종되는 프롬프트 인젝션 문제를 해결하기 위해, 자동화된 '그레이딩 루프' 구축 방안을 제안합니다. 이 방식은 시나리오를 대화 형태로 설계하고 린터처럼 저렴하고 빠르게 실행하여 모델 변경 시마다 보안성을 즉각 검증할 수 있게 합니다.
Your Agent Reads Untrusted Text All Day. Here's How I Grade What It Does With It.↗dev.to
- 950
시스템 프롬프트는 보안 경계가 아닙니다: 에이전트 도구 호출에 대한 실질적인 조사
AI 에이전트가 도구 호출(Tool Calling) 기능을 통해 외부 시스템에 접근할 때, 시스템 프롬프트 기반의 제약은 프롬프트 주입 공격에 매우 취약함을 실험으로 증명합니다. 저자는 보안의 핵심이 프롬프트 엔지니어링이 아닌, 실행 단계에서 허용된 작업만 수행하도록 제한하는 코드 레벨의 화이트리스트(Enforcement Layer) 구축에 있음을 강조합니다.
Your System Prompt Is Not a Security Boundary: A Hands-On Probe for Agent Tool Calls↗dev.to
- 958
Show HN: Sufleur - npm 스타일 프롬프트 레지스트리, 타입화된 코드 생성 기능 탑재
Sufleur은 LLM 프롬프트를 npm이나 pip처럼 패키지 형태로 관리하고 배포할 수 있는 레지스트리 서비스입니다. 개발자는 CLI를 통해 프롬프트를 프로젝트에 설치하고, 입력값의 타입과 출력 스키마가 보장된 코드를 자동 생성하여 프롬프트 엔지니어링의 안정성을 극대화할 수 있습니다.
Show HN: Sufleur - npm-style prompt registry with typed code-generation↗github.com
- 960
Opik vs Langfuse: 두 오픈소스 LLM 관측 도구의 합치점과 차이점
LLM 관측 도구인 Opik과 Langfuse는 프롬프트 템플릿 및 플레이그라운드 트레이싱 기능에서는 공통적인 한계를 보이지만, 버전 관리의 디테일과 핵심 기능(가드레일 vs 알림)에서 큰 차이를 나타냅니다. 특히 Langfuse의 ClickHouse 인수와 Opik의 가드레일 특화 전략은 향후 운영 환경 구축에 있어 중요한 선택 기준이 됩니다.
Opik vs Langfuse: Where Two Open-Source LLM Observability Tools Actually Agree (and Where They Don't)↗dev.to













