프롬프트 엔지니어링 뉴스
LLM 프롬프트 설계, 시스템 프롬프트, 컨텍스트 엔지니어링, 프롬프트 인젝션 방어 등에 관한 글.
총 1,173건·최신 업데이트
- 181
새 연구 결과, 당사의 의료 AI인 AMIE가 건강 상태 관리에 어떻게 기여할 수 있는지 보여줍니다.
구글의 AMIE 시스템은 제미나이(Gemini) 모델의 롱컨텍스트 능력을 활용해 환자와의 공감형 대화 및 방대한 임상 지식 기반의 심층 추론을 수행합니다. 최근 연구에 따르면 AMIE는 전문의와 대등한 수준의 관리 추론 능력을 보였으며, 특히 치료 계획의 정밀도와 가이드라인 준수 측면에서는 의사보다 높은 점수를 기록했습니다.
New research shows how AMIE, our medical AI, could help manage health conditions.↗blog.google
- 186
엔터프라이즈 AI 에이전트의 가드레일: 실제 프로덕션 환경에서 무엇이 핵심적인가
이 글은 포춘 100대 제조 기업에서 2년간 AI 에이전트를 구축한 엔지니어의 실무 기록으로, LLM 기반 가드레일 제품보다 IAM, 도구 허용 목록, 네트워크 통제와 같은 전통적인 보안 계층이 훨씬 더 중요하다고 주장합니다. 특히 프롬프트 지시어나 별도의 검사 모델보다는 권한 제어와 인프라 수준의 방어가 실제 운영 환경에서 핵심적인 역할을 한다고 설명합니다.
Guardrails for enterprise AI agents — what's actually load-bearing in production↗dev.to
- 189
ccglass 구축하기: 로컬 LLM 리버스 프록시 아키텍처
ccglass는 Claude Code와 같은 코딩 에이전트의 API 요청을 가로채 프롬프트 내용, 비용, 캐시 적중률을 실시간 대시보드로 보여주는 로컬 리버스 프록시입니다. HTTPS 인증서 문제를 피하기 위해 API 베이스 URL을 로컬 HTTP 주소로 재지정하는 독창적인 방식을 사용하며, MCP 통합을 통해 AI가 자신의 요청 이력을 조회할 수 있는 기능도 제공합니다.
Building ccglass: the architecture of a local LLM reverse proxy↗dev.to
- 192
AI 검색에서 브랜드 가시성 추적하는 방법: Profound 활용하기
전통적인 SEO 방식으로는 ChatGPT나 Google AI Overviews와 같은 AI 검색 엔진 내 브랜드 노출을 파악하기 어렵기 때문에 새로운 측정 기준이 필요합니다. Profound는 프롬프트 기반의 가시성 점수, 점유율(Share of Voice), 평균 순위를 통해 브랜드의 AI 검색 최적화 상태를 분석하고 경쟁사와 비교할 수 있는 솔루션을 제공합니다.
How to Track Your Brand Visibility in AI Search With Profound↗tryprofound.com
- 193
연구원들에 따르면 '이 코드 수정해' 요청 이후 Feds가 Fable 5에 당황한 이유는 제일브레이크 때문이 아닌 것으로 나타났습니다.
미 정부는 안스로픽의 최신 모델인 F모델에 대해 국가 안보를 이유로 수출 통제를 실시했으나, 실제 원인은 보안 취약점을 수정하려는 단순한 프롬프트였던 것으로 드러났습니다. 이는 AI를 활용한 방어적 사이버 보안 활동까지 위축시킬 수 있다는 비판을 불러일으키고 있습니다.
Feds freaked over Fable 5 after 'fix this code', not jailbreak, say researchers↗theregister.com
- 195
AI 채팅 내용을 베끼지 마세요. 대화 내용을 그래프로 정리하는 브라우저 확장 프로그램을 만들고 있습니다 (1부)
사용자가 여러 LLM을 사용할 때 발생하는 컨텍스트 전이의 비효율성을 해결하기 위해, 대화 내용을 구조적 데이터로 변환하는 'Thread'라는 오픈소스 확장 프로그램이 개발 중입니다. 이 도구는 로컬 WASM 엔진을 통해 대화 로그를 압축된 속성 그래프로 변환하여 토큰 소모를 줄이고 핵심 정보를 보존합니다.
Stop Copy-Pasting AI Chats. I’m Building a Browser Extension that Compiles Conversations into Graphs (Part 1)↗dev.to
- 197
4계층 AI 운영 플레이북: 더 나은 AI 출력부터 강력한 SEO 결과까지
대다수의 SEO 전문가가 AI를 사용하지만, 체계적인 시스템을 갖춘 비율은 12%에 불과하여 콘텐츠 품질 저하와 브랜드 정체성 상실이라는 리스크에 직면해 있습니다. 이를 해결하기 위해 지식, 워크플로우, 거버넌스, 애플리케이션으로 구성된 4계층 AI 운영 플레이북을 통해 기업 고유의 컨텍스트를 확보하는 것이 핵심입니다.
The 4-Layer AI Ops Playbook: From Better AI Outputs To Strong SEO Results via @sejournal, @hethr_campbell↗searchenginejournal.com











