프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 2,084건·최신 업데이트
- 1101
에이전트 시리즈 (22): 컨텍스트 엔지니어링 심층 분석 - 세 가지 컨텍스트 관리 전략의 정량화
AI 에이전트가 대화 이력을 모두 기억하면 비용과 토큰 사용량이 선형적으로 증가하는 문제가 발생합니다. 본 기사는 전체 이력을 전달하는 방식, 최근 메시지만 유지하는 방식, 과거 내용을 요약하는 방식의 정확도와 비용 효율성을 실험을 통해 비교 분석합니다.
Agent Series (22): Context Engineering Deep Dive — Quantifying Three Context Management Strategies↗dev.to
- 1103
ChatGPT 이미지 생성기가 폭력적이고 성적인 콘텐츠를 생성하도록 조작될 수 있어
Mindgard의 리서치에 따르면, ChatGPT의 콘텐츠 필터가 특정 '복원' 프롬프트를 통해 무력화되어 성폭력 및 잔혹한 이미지를 생성할 수 있음이 밝혀졌습니다. 이는 입력 필터를 우회하는 모호한 명령과 출력 필터를 무시하도록 유도하는 탈옥(jailbreak) 기법이 결합된 결과로, AI 모델의 안전성 확보에 큰 과제를 던져줍니다.
ChatGPT's image generator can be manipulated to produce violent, sexual content↗mindgard.ai
- 1105
챗봇을 넘어: 기업의 AI 역량이 iFLYTEK Astron과 함께 진화하는 방법
AI 개발 방식이 단순 프롬프트에서 모듈화된 '스킬' 단위로 진화하면서, 이를 관리하기 위한 기업용 인프라의 중요성이 커지고 있습니다. iFLYTEK Astron은 스킬의 버전 관리와 권한 제어를 지원하는 Skillhub와 멀티모달 워크플로우를 구현하는 Agent를 통해 엔터프라이즈급 AI 에이전트 구축 환경을 제공합니다.
Beyond Chatbots: How Enterprise AI Skills Are Evolving with iFLYTEK Astron↗dev.to
- 1109
작업 큐를 삭제하고 “스캐폴드”를 구축했습니다: 자율 빌더를 위한 프로토콜
프롬프트 버전 관리 및 벤치마킹 도구인 'Scaffold'를 48시간 만에 구축한 사례를 통해, 개인의 페인 포인트를 해결하며 마이크로 SaaS로 전환하는 방법론을 다룹니다. Next.js, Supabase, Vercical AI SDK 등 현대적인 AI 네이티브 스택을 활용하여 복잡한 인프라 없이 즉각적으로 가치를 창출하는 기술적 설계와 스마트 라우팅 로직을 강조합니다.
I Deleted My Job Queue and Built "Scaffold": A Protocol for Autonomous Builders↗dev.to
- 1111
AI 코딩 도구의 정보 유출 방지: 클라우드 보안 강화 (로컬, Apache-2.0 라이선스)
Cursor나 Claude Code 같은 AI 코딩 도구가 작업 컨텍스트를 클라우드로 전송할 때 발생할 수 있는 보안 사고를 방지하기 위한 로컬 프록시 도구 'leakproof'가 소개되었습니다. 이 도구는 API 요청을 사전에 스캔하여 민감 정보를 삭제하며, 모든 감사 로그를 로컬에만 저장하여 데이터 유출 위험을 최소한으로 줄입니다.
leakproof: stop your AI coding tool from leaking secrets to the cloud (local, Apache-2.0)↗dev.to
- 1112
새 연구 결과, 당사의 의료 AI인 AMIE가 건강 상태 관리에 어떻게 기여할 수 있는지 보여줍니다.
구글의 AMIE 시스템은 제미나이(Gemini) 모델의 롱컨텍스트 능력을 활용해 환자와의 공감형 대화 및 방대한 임상 지식 기반의 심층 추론을 수행합니다. 최근 연구에 따르면 AMIE는 전문의와 대등한 수준의 관리 추론 능력을 보였으며, 특히 치료 계획의 정밀도와 가이드라인 준수 측면에서는 의사보다 높은 점수를 기록했습니다.
New research shows how AMIE, our medical AI, could help manage health conditions.↗blog.google
- 1117
GLM-5.2: 세계 최고 수준의 프론트엔드 코딩 모델, 스펙커티브 디코딩을 위한 IndexShare
Z.ai가 프론트엔드 코딩 및 에이전틱 작업에 최적화된 오픈 웨이트 모델 GLM-5.2를 출시했습니다. 이 모델은 744B 파라미터 규모의 MoE 구조를 채택하여 100만 토큰의 컨텍스트 창을 지원하며, 주요 코딩 및 디자인 벤치마크에서 기존 유료 모델들을 압도하는 성능을 입증했습니다.
[AINews] GLM-5.2: the top Frontend Coding model in the world, IndexShare for Speculative Decoding↗latent.space
- 1118
엔터프라이즈 AI 에이전트의 가드레일: 실제 프로덕션 환경에서 무엇이 핵심적인가
이 글은 포춘 100대 제조 기업에서 2년간 AI 에이전트를 구축한 엔지니어의 실무 기록으로, LLM 기반 가드레일 제품보다 IAM, 도구 허용 목록, 네트워크 통제와 같은 전통적인 보안 계층이 훨씬 더 중요하다고 주장합니다. 특히 프롬프트 지시어나 별도의 검사 모델보다는 권한 제어와 인프라 수준의 방어가 실제 운영 환경에서 핵심적인 역할을 한다고 설명합니다.
Guardrails for enterprise AI agents — what's actually load-bearing in production↗dev.to










