프롬프트 엔지니어링 뉴스

AI 에이전트는 실행 권한을 가지기 때문에 단순 챗봇보다 훨씬 큰 보안 리스크를 내재하고 있으며, 기능 확장 과정에서 발생하는 '권한 크리프'와 '간접 프롬프트 주입'이 주요 위협입니다. 이를 방지하기 위해 도구 범위 제한, 인간의 승인 절차 도입, 에이전트 간 상호 검증 등 다층적 방어 체계 구축이 필수적입니다.

Tokeness는 여러 AI 모델의 API를 하나의 키와 베이스 URL로 통합하여 사용할 수 있게 해주는 서드파티 API 게이트웨이입니다. 투명한 가격 공개와 통합 결제 시스템을 제공하지만, 프롬프트가 중계 서버를 거치는 보안 이슈와 특정 지역에서의 접속 제한이라는 제약 사항이 존재합니다.

개발자가 사용하는 gcloud CLI 설정과 실제 애플리케이션의 인증 정보(ADC)가 서로 다른 프로젝트를 가리키는 위험한 상황을 해결하기 위해 `gcpctx`라는 도구가 등장했습니다. 이 도구는 계정, 프로젝트, 쉘 환경 등을 하나의 컨텍스트로 묶어 관리하며, 실행 전 프로젝트 일치 여부를 강제로 검증하는 기능을 제공합니다.

OpenAI가 기존 Chat Completions 대신 Responses API 사용을 권장하며, 모델 런타임 내에서 상태 관리와 도구 실행을 처리하는 구조로 전환하고 있습니다. WebSocket 모드와 서버 측 컨텍스트 압축(Compaction), 그리고 JavaScript 기반의 프로그래밍 가능한 도구 호출 기능을 통해 에이전트의 성능과 효율성을 극대화합니다.

이 글은 마이크로소프트의 AI 리서치 에이전트 실습 과정을 통해 AI 에이전트의 작동 원리를 심층적으로 탐구합니다. 단순한 프롬프트 입력을 넘어 문서 분석, 정보 추출, 종합, 보고서 생성으로 이어지는 구조화된 워크플로우가 에이전트 기술의 핵심임을 강조합니다.

구글은 텍스트 프롬프트로 위성 지도에 고화질 객체를 합성할 수 있는 '나노 바나나 2' 모델을 구글 어스에 도입했으나, 출시 하루 만에 기능을 중단했습니다. 사용자들이 이를 악용해 테러나 재난 등 가짜 위성 이미지를 생성하여 서비스의 신뢰성을 훼손할 위험이 커졌기 때문입니다.

Simon Willison은 MCP 서버에 있는 다양한 도구들을 LLM의 기능으로 활용할 수 있게 해주는 llm-mcp-client 0.1a0 버전을 출시했습니다. 이 클라이언트는 모델 컨텍스트 프로토콜(MCP)을 통해 외부 데이터와 도구에 대한 접근성을 극대화하는 데 중점을 둡니다.

Simon Willison이 발표한 smevals는 모델, 프롬프트, 하네스의 성능을 실험하고 결과물을 정량적으로 평가할 수 있는 소규모 에발(eval) 스위트입니다. 사용자는 YAML 설정을 통해 다양한 모델 구성을 테스트하고, 체크리스트 기반의 그레이더를 통해 실행 결과를 검증하며, 시각화된 리포트를 생성할 수 있습니다.

DeepSeek V4 Flash 0731은 지능 지수 50을 기록하며 동급 모델 평균을 크게 상회하는 성능을 보여줍니다. 특히 입력 토큰당 $0.14라는 파격적인 가격과 1MB에 달하는 방대한 컨텍스트 창을 제공하여 고성능 추론 작업에 최적화되어 있습니다.

Manifest는 비용 절감을 위해 도입했던 LLM 라우터 기능을 폐기하기로 결정했습니다. 프롬프트만으로는 작업의 실제 복잡도를 예측하기 어렵고, 모델 전환이 결과물의 일관성을 해치며, 오히려 운영 및 평가 비용을 증가시킨다는 것이 주요 이유입니다.

MCP 2.0은 기존의 상태 유지(Stateful) 방식이 가진 클라우드 확장성 한계를 극복하기 위해 무상태(Stateless) 아키텍처를 도입했습니다. 이를 통해 AI 에이전트 서버를 독립적인 마이크로서비스로 운영할 수 있게 되어, 대규모 엔터프라이즈 환경에서의 안정적인 확장이 가능해집니다.

구글은 사용자가 AI 프롬프트로 위성 이미지를 변형할 수 있는 Google Earth의 새로운 기능을 출시 하루 만에 철회했습니다. 난민이나 폭격 흔적 같은 민감한 주제를 생성하는 딥페이크 사례가 발생하자, 구글은 더 강력한 가드레일을 구축하기 위해 해당 기능을 일시 중단하기로 결정했습니다.

구글은 텍스트 프롬프트로 위성 이미지를 변형할 수 있는 'Nano Banana' 기능을 도입했으나, 전쟁이나 난민 문제 등 민감한 이슈에 대한 정교한 가치 왜곡 위험이 발견되어 서비스를 철회했습니다. 워터마크와 AI 탐지 기술을 적용했음에도 불구하고 실제 오용 사례를 막지 못했다는 점이 핵심입니다.

DeepSeek V4 Flash 0731은 2,840억 개의 파라미터를 가진 MoE 구조의 모델로, 매우 저렴한 API 가격에도 불구하고 글로벌 최상위권의 지능 지수를 기록했습니다. MIT 라이선스로 공개되어 상업적 이용과 자체 호스팅이 가능하며, 100만 토큰의 긴 컨텍스트 창을 지원하여 대규모 데이터 처리에 최적화되어 있습니다.

추론 API가 암호화된 추론 토큰, 비공개 검색 결과, 불투명한 컨텍스트 압축 등을 도입함에 따라 사용자의 대화 기록이 세션 전체가 아닌 '부분적인 사본'으로 전락하고 있습니다. 이는 모델 간 작업 이식을 불가능하게 만들며, 사용자가 AI의 행동을 검사하거나 감사할 수 없는 '공급자 봉인 상태(provider-closed state)'를 심화시키고 있습니다.

AI 코딩 에이전트 활용 시 발생하는 인지적 단절을 해결하기 위해, 작업을 큐에 쌓고 완료 후 요약된 리뷰 문서를 제공하는 'Galda'를 소개합니다. 이 도구는 프롬프트 재작성 대신 작업의 진행 상황과 변경 사항을 체계적으로 정리하여 개발자가 업무 복귀 시 맥락을 빠르게 복구하도록 돕습니다.

넷플릭스는 수천 개의 피처를 관리해야 했던 기존 시스템의 복잡성을 해결하기 위해 LLM 기반의 GenRec 시스템을 개발했습니다. 이 시스템은 사용자 이력을 자연어로 변환하여 학습하고, 컨텍스트 엔지니어링과 vLLM 최적화를 통해 비용 효율성과 추천 정확도를 동시에 확보하며 유의미한 성과를 거두었습니다.

특정 클라우드 플랫폼의 콘솔에 갇혀 이동이 불가능했던 AI 에이전트 설정을 코드(IaC)로 관리할 수 있는 오픈소스 프로젝트 'OpenAgentPack'이 공개되었습니다. 이 도구는 YAML 파일을 통해 모델, 프롬프트, 도구 등을 정의하고 Terraform과 유사한 방식으로 에이전트 스택을 버전 관리 및 배포할 수 있게 돕습니다.

FlowCraft는 긴 메타프롬프트를 그래프 형태로 시각화하여 작업 순서, 병렬 처리 가능 여부, 병목 현상을 한눈에 파악할 수 있게 돕는 도구입니다. 사용자는 이를 통해 복잡한 AI 에이전트의 계획을 구조적으로 수정하고, Claude Code나 Codex 환경에서 즉시 실행 가능한 Markdown 지시서로 변환할 수 있습니다.

MCP 프로토콜이 도구 사용 시 실제 필요량보다 최대 6.6배 많은 토큰을 소모하여 에이전트 운영 비용을 급증시키고 있음을 수치로 증명했습니다. 또한, 도구 설명 내 숨겨한 문자를 이용한 프롬프트 인젝션 위험을 지적하며, 점진적 공개(Progressive Disclosure) 방식을 통한 비용 절감과 보안 강화의 필요성을 강조합니다.