프롬프트 엔지니어링 뉴스

Moonshot AI의 최신 플래그십 모델인 Kimi K3가 Telnyx Inference API를 통해 출시되었습니다. 2.8조 개의 파라미터를 보유한 이 모델은 100만 토큰의 컨텍스트 창과 네이티브 비전 기능을 갖추어, 코드 분석 및 멀티모달 에이전트 구축에 최적화되어 있습니다.

앤스로픽은 클로드 Opus 5 및 Fable 5를 위해 클로드 코드의 시스템 프롬프트와 CLAUDE.md 파일 내 과도한 제약 사항을 80% 이상 제거했습니다. 이는 과거 모델에 의존하던 복잡한 규칙들이 오히려 최신 모델의 성능을 저해하고 토큰 낭비를 초래한다는 발견에 따른 조치입니다.

사티아 나델라 MS CEO는 기업이 특정 AI 모델 제공업체에 종속되지 않기 위해 데이터, 프롬프트, 메타데이터를 직접 관리하는 '데이터 주권' 확보가 핵심이라고 강조했습니다. 이를 위해 특정 모델에 얽매이지 않는 AI 게이트웨이를 구축하고, 모델과 데이터를 분리하여 다양한 모델을 유연하게 활용하는 멀티모델 전략을 제언했습니다.

LiquidAI는 기존 대형 모델과 대등한 성능을 유지하면서도 CPU에서 ModernBERT-base 대비 최대 3.7배 빠른 추론 속도를 자랑하는 LFM2.5-Encoder(230M, 350M)를 출시했습니다. 이 모델은 긴 컨텍스트 처리에 최적화되어 개인정보 탐지, 의도 라우팅 등 다양한 NLP 태스크를 저비용으로 실행할 수 있게 해줍니다.

PromptTrace는 프롬프트 인지 및 RAG 포이즈닝 등 최신 LLM 보안 취약점을 직접 체험할 수 있는 무료 핸즈온 학습 플랫폼입니다. OWASP의 AI 보안 표준에 맞춘 체계적인 커리큘럼과 공격 레이어를 시각화하는 기능을 통해 실무적인 방어 역량 강화를 지원합니다.

Vinv는 AI 에이전트가 코드를 실행했을 때의 실제 동작(traces, metrics)을 컨텍스트로 제공하여 '코드 수정 후 테스트 실패'라는 고질적인 루프 문제를 해결합니다. RL 밴딧 기술을 통해 최적의 컨텍스트를 선택하며, 이를 통해 저가형 모델도 정교한 버그 수정과 성능 최적화를 수행할 수 있게 합니다.

Edge Drop은 화면 왼쪽 가장자리에 숨겨져 있다가 마우스 커서가 접근하면 나타나는 호버 활성화 방식의 클립보드 및 파일 전송 허브입니다. 텍스트, 이미지, 파일 스택 등을 드래그 앤 드롭으로 외부 앱에 즉시 전달할 수 있어 멀티태스킹 시 발생하는 컨텍스트 스위칭 비용을 최소화합니다.

Anthropic의 모델 컨텍스트 프로토콜(MCP)이 출시 20개월 만에 가장 큰 규모의 아키텍처 업데이트를 단행했습니다. 이번 개정은 AI 에이전트를 대규모 기업용 생산 환경에 배포하기 적합하도록 설계되었으며, Linux Foundation 산하 AAIF의 감독 하에 공개되었습니다.

샤오미의 MiMo-V2.5는 텍스트, 이미지, 비디오, 오디오를 단일 시스템에서 처리하는 네이동형 옴니모달 모델로, MoE 구조를 통해 효율적인 파라미터 활용과 최대 100만 토큰의 긴 컨텍스트 창을 지원합니다. 기존의 '볼트온(bolt-on)' 방식보다 모달리티 간 깊은 통합 추론이 가능하며, OpenAI 호환 API를 통해 누구나 테스트할 수 있습니다.

시스템 프롬프트에 의존하는 방식은 프롬프트 인젝션이나 복잡한 추론 과정에서 우회될 위험이 커서 신뢰할 수 없습니다. 따라서 기업용 AI 에이전트는 실행 단계에서 스키마 검증, 정책 엔진 활용, 그리고 고위험 작업에 대한 인간 개입(HITL)을 포함하는 4단계 위험 분류 체계를 갖추어야 합니다.

Web4 브라우저는 일회성 자동화 컨텍스트의 한계를 극복하기 위해 쿠키, 핑거프린트, 프록시 설정을 하나의 '지속적 프로필'로 통합 관리합니다. 이를 통해 계정 상태를 유지하면서도 수동 작업과 자동화 스크립트 간의 원활한 전환 및 일관된 환경 유지를 지원합니다.

사티아 나델라 MS CEO는 기업이 특정 AI 랩의 독점 모델에만 의존하는 것은 '사고를 외주화'하는 위험한 행위라고 경고했습니다. 그는 데이터와 프롬프트를 보호하고 다양한 모델을 유연하게 사용할 수 있는 AI 게이트웨이와 같은 인프라 구축을 통해 기업 스스로의 기술적 통제권을 유지해야 한다고 제언합니다.

Vercel의 AI Gateway가 OpenAI Responses API에 대해 WebSocket 모드를 지원하기 시작했습니다. 이를 통해 전체 컨텍스트를 매번 재전송할 필요 없이 새로운 입력값만 전송하여 연결을 유지할 수 있으며, 특히 복잡한 에이전트 작업에서 실행 속도를 최대 40%까지 높일 수 있습니다.

Perplexity API는 토큰 사용량 외에도 search_context_size 설정에 따라 1,000건당 별도의 비용을 부과하며, 이는 검색 품질을 높이려 할 때 운영 비용을 급격히 상승시키는 요인이 된다. 따라서 개발자는 단순 토큰 단가뿐만 아니라 예상되는 요청 빈도와 컨텍스트 수준을 고려한 통합적인 비용 모델링을 수행해야 한다.

연구 결과, 중국 AI 모델들이 프롬프트에 따라 Claude의 정체성을 채택할 수 있으며, 특히 GLM 5.2의 경우 Claude로 인식될 때 중국 특유의 검열 수준이 급격히 낮아지는 현상이 관찰되었습니다. 이는 명확한 증류의 증거는 아니지만, Claude의 데이터나 학습 방식이 해당 모델들의 가중치에 깊게 반영되어 있을 가능성을 시사합니다.

로컬 LLM을 활용한 에이전트 테스트 결과, VRAM 여유가 충분함에도 불구하고 약 9k 토큰 지점에서 도구 호출 정확도가 급격히 떨어지는 현상이 확인되었습니다. 특히 모델이 작업을 완료했다고 잘못 판단하여 프로세스를 중단하는 '무음 실패(Silent Failure)'는 시스템 모니터링을 우회하는 심각한 위험 요소로 지목됩니다.

AI 코딩 에이전트가 생성하는 코드의 오류는 단순한 구현 실수가 아니라, 정의되지 않은 제품 기획의 공백을 모델이 임의로 채우기 때문에 발생합니다. 이를 해결하기 위해 요구사항을 심문하여 명확한 스펙을 만드는 인터뷰어, 구현을 담당하는 코더, 검증하는 리뷰어로 역할을 분리한 에이전트 오케스트레이션 패턴이 대안으로 제시됩니다.

Semrush의 AI 가시성 툴킷은 대규모 프롬프트 데이터를 분석해 브랜드가 LLM 응답에서 누락된 지점인 'AI 가시성 격차'를 찾아냅니다. 사용자는 이를 통해 경쟁사가 점유한 주제와 소스를 파악하고, 인용 및 내재적 내러티브 개선을 위한 구체적인 SEO 전략을 수립할 수 있습니다.

NVIDIA Labs는 에이전트를 파이썬 클래스로 정의하여 상태, 기능, 프롬프트를 통합 관리하는 오픈소스 프레임워크 NOOA를 발표했습니다. 이 프레임워크는 타입 기반의 입출력과 객체 참조 방식을 통해 토큰 비용을 절감하고 성능을 높이며, 에이전트가 스스로 지식 그래프 형태의 메모리를 구축하도록 설계되었습니다.

단순한 AI 데모를 넘어 실제 기업 환경에서 작동하는 에이전트를 구축하기 위한 설계, 보안, 운영 전략을 다룹니다. 모델의 성능은 고정된 상수로 보고, 시스템 프롬프트와 워크플로우 제어 등 하네스 품질을 높여 신뢰성과 비용 효율성을 확보하는 것이 핵심입니다.