프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 2,795건·최신 업데이트
- 1283
모델별로 초안 프롬프트를 수정하는 사전 연구 자료 아시는 분 계신가요?
한 개발자가 사용자의 거친 초안 프롬프트를 Claude, GPT, Gemini 등 각 LLM의 특성에 맞춰 최적화된 형태로 재작성해주는 자동화 도구 아이디어를 제안하며 관련 선행 연구를 찾고 있습니다. 이는 단순히 문장을 다듬는 것을 넘어 모델별 고유한 강점과 약점을 활용하는 '모델 맞춤형 프롬프트 적응' 기술에 초점을 맞추고 있습니다.
Anyone know prior research on rewriting a rough prompt per model?↗dev.to
- 1288
Show HN: TokenPath - LLM 출력의 토큰 단위 인용, 어텐션으로부터 읽기
TokenPath는 LLM의 출력값과 원문 사이의 어텐션(Attention) 메커니즘을 분석하여, 답변 내 특정 토큰이 문서의 어느 부분에서 기인했는지 정확하게 찾아주는 기술입니다. 기존의 RAG나 프롬프트 기반 인용 방식보다 훨씬 정밀하며, 비용은 7배 저렴하고 속도는 5~6배 빠르다는 강점이 있습니다.
Show HN: TokenPath – token-level citations for LLM output, read from attention↗tokenpath.ai
- 1292
Spring AI + Langfuse: ObservationFilter를 활용한 스트리밍 추적
기존 Spring AI의 CallAdvisor 방식은 스트리밍 응답 추적에 한계가 있으며, 실행 흐름을 방해할 수 있는 StreamAdvisor 대신 ObservationFilter를 활용한 새로운 접근법을 제안합니다. 이 방법은 모델 호출 로직을 건드리지 않고도 프롬프트와 응답 데이터를 Langfuse와 같은 관측 도구에 효율적으로 전달하여 정교한 트레이싱을 가능하게 합니다.
Spring AI + Langfuse: Tracing Streaming with ObservationFilter↗dev.to
- 1294
더 많은 GPU를 추가하는 것을 멈춰라: Weka의 새로운 스토리지 플랫폼, AI 모델의 사전 계산된 토큰을 100% 캐싱하여 로드 감소
Weka는 GPU 메모리 부족 문제를 해결하기 위해 사전 계산된 토큰을 저렴한 플래시 스토리지에 캐싱하는 새로운 플랫폼을 선보였습니다. 이는 긴 컨텍스트 창과 반복적인 연산을 처리할 때 발생하는 GPU 자원 낭비를 줄여 비용 효율적인 AI 운영을 가능하게 합니다.
Stop adding more GPUs: Weka's new storage platform reduces load by caching 100% of an AI model's pre-calculated tokens↗venturebeat.com
- 1296
Spring AI와 Azure OpenAI를 활용한 AI 기반 여행 플래너 구축하기
본 기사는 Spring Boot와 Azure OpenAI를 활용해 사용자의 여행 취향, 예산, 기간에 맞춘 상세한 여행 계획을 JSON 형태로 반환하는 AI 기반 여행 플래너 개발 과정을 단계별로 설명합니다. DTO를 통한 데이터 검증부터 프롬프트 엔지니어링, API 문서화까지 프로덕션 환경에 즉시 적용 가능한 REST API 구축의 핵심 요소들을 다룹니다.
Building an AI-Powered Travel Planner with Spring AI and Azure OpenAI↗dev.to
- 1297
이번 주 주목할 만한 소식: Inkling 개방형 가중치, GitHub Models 서비스 종료, Supabase Multigres
Thinking Machines Lab이 Apache 2.0 라이선스의 대규모 멀티모달 모델 Inkling을 공개했으며, GitHub Models 서비스는 Azure로의 전환을 위해 종료됩니다. 또한 Supabase의 Kubernetes 운영 도구 오픈소스화와 CodeQL의 프롬프트 인젝션 탐지 기능 추가 등 개발 보안 및 인프라 환경에 중요한 변화가 나타났습니다.
Notable this week: Inkling open weights, GitHub Models sunset, Supabase Multigres↗dev.to
- 1298
AI 개요 가시성: 스폿 체크에서 놓치는 부분을 추적하는 신뢰할 수 있는 방법
AI 엔진은 매번 답변을 새로 생성하므로, 일회성 프롬프트 확인만으로는 브랜드 노출의 지속성을 보장할 수 없습니다. 따라서 콘텐츠, 기술적 건강도, 권위, 측정이라는 4가지 핵심 축을 바탕으로 정기적인 모니터링과 지표 관리를 수행하는 AEO 전략이 필요합니다.
AI Overviews Visibility: A Reliable Way To Track What Spot-Checks Miss via @sejournal, @hethr_campbell↗searchenginejournal.com
- 1300
매 프로젝트마다 AI에게 엔지니어링 규칙을 반복해야 지쳐서, GEF를 만들었습니다.
개발자가 매번 AI에게 동일한 코딩 규칙을 반복해서 지시해야 하는 번거로움을 해결하고자, 프로젝트 생성 단계부터 엔지니어링 플레이북과 CI/CD, 프롬프트를 통합하는 GEF가 등장했습니다. 이 프레임워크는 AI가 단순 코드 생성을 넘어 ADR 작성 및 테스트 실행 등 정해진 프로세스를 준수하도록 강제합니다.
I got tired of repeating engineering rules to AI on every project. So I built GEF.↗dev.to










