프롬프트 엔지니어링 뉴스

전 OpenAI CTO 미라 무라티가 설립한 Thinking Machines Lab이 9750억 개의 파라미터를 가진 대규모 오픈 웨이트 모델 'Inkling'을 출시했습니다. Apache 2.0 라이선스로 공개된 이 모델은 강력한 추론 능력과 100만 토큰의 컨텍스트 창을 지원하며, 개발자들이 자유롭게 미세 조정할 수 있는 환경을 제공합니다.

NVIDIA DeepStream 9.1은 카메라 보정 자동화와 여러 시점의 데이터를 통합하는 3D 트래킹 기능을 도입하여 대규모 공간에서의 객체 추적 난제를 해결합니다. 특히 에이전트 기반 기술과 자연어 프롬프트를 지원하여 개발자가 복잡한 비전 AI 파이프라인을 더욱 빠르고 쉽게 구축할 수 있도록 돕습니다.

Inkling은 텍스트, 이미지, 오디오, 비디오를 모두 처리할 수 있는 대규모 MoE(Mixture-of-Experts) 모델로, 100만 토큰의 컨텍스트 창을 지원합니다. 특히 Tinker 플랫폼을 통해 개발자가 모델을 손쉽게 미세 조정할 수 있도록 설계되었으며, 모델 스스로 학습 데이터를 생성하고 자신을 업데이트하는 자가 미세 조정 능력을 시연했습니다.

프롬프트 엔지니어링은 AI 실험 단계에서는 유효하지만, 실제 프로덕션 환경에서는 컨텍스트, 검색(RAG), 평가, 거버넌스 등을 포함한 전체적인 시스템 설계가 더 중요합니다. 단순한 명령어 최적화를 넘어 사용자의 목적을 달성하기 위한 신뢰할 수 있는 워크플로우를 구축하는 것이 AI 서비스의 핵심 과제입니다.

react-hook-lab은 최근 내부 자동화 스크립트의 보안과 효율성을 개선하기 위한 업데이트를 진행했습니다. 주요 내용은 AI 프롬프트를 GitHub Secrets로 이동시켜 보안을 강화하고, 동적 템플릿 로딩 및 불필요한 실행을 방지하는 최적화 로직을 도입한 것입니다.

OpenAI는 LLM의 보안 취약점을 자동으로 탐색하는 'GPT-Red'를 개발하여, 프롬프트 인젝션 등 새로운 공격 패턴을 발견하고 모델의 방어력을 강화했습니다. 이 시스템은 자가 학습 루프를 통해 인간 레드팀보다 더 효율적으로 보안 위협을 식별하며 차세대 AI 에이전트의 안전성을 확보하는 데 기여합니다.

Fluree AI는 기업 내 분산된 데이터를 하나의 신뢰할 수 있는 소스로 통합하여 AI 에이전트와 앱에 정확한 컨텍스트를 제공하는 지식 그래프 기반 플랫폼입니다. 구조화된 데이터에 직접 쿼리함으로써 기존 RAG 방식의 불확실성을 줄이고, 모든 요청에 대해 권한 확인과 검증 가능한 답변을 생성합니다.

리콘랩스가 AI 콘텐츠 제작 프로세스 전체를 하나의 워크플로우로 통합한 ‘젠프레소’를 개편했습니다. 이번 개편은 단순 생성을 넘어 프롬프트, 모델, 편집 기기법 등을 '스킬'과 '자산'으로 저장하여 조직의 제작 역량을 축적하고 협업할 수 있는 구조를 갖춘 것이 특징입니다.

Verse는 사용자가 프롬프트 하나로 이메일, 브라우저, 슬랙 등 독립적인 디지털 정체성을 가진 자율형 AI 직원을 구축하고 채용할 수 있게 해주는 서비스입니다. 생성된 AI 에이전트는 24시간 독립적으로 업무를 수행하며, 'Spaces'라는 협업 공간에서 다른 AI들과 함께 복잡한 문제를 해결할 수 있습니다.

글로싸인이 자연어 프롬프트만으로 전자서명 기능을 구현할 수 있는 AI 에기트 전용 API 패키지를 선보였습니다. 이를 통해 개발자와 비개발자 모두 복잡한 문서 학습 없이도 AI를 활용해 전자계약 및 업무 자동화 시스템을 손쉽게 구축할 수 있게 되었습니다.

구글이 AI Overviews 내에서 텍스트 프롬프트를 기반으로 이미지를 생성할 수 있는 기능을 순차적으로 도입합니다. 최신 'Nano Banana' 모델을 활용해 고품질의 맞춤형 이미지를 검색 결과 내에서 즉시 제공하며, 사용자의 상상력을 시각화하는 경험을 강화할 예정입니다.

오픈소스 기여 과정의 비효율성을 해결하기 위해 Claude Code와 ChatGPT를 활용한 개인화된 워크플로우를 구축하여 PR 수를 1개에서 20개로 늘린 사례입니다. 핵심은 프로젝트별 컨텍스트를 AI에게 학습시키는 CLAUDE.md 파일 활용과 체계적인 저장소 관리 시스템을 통한 기여의 일관성 확보에 있습니다.

리콘랩스가 AI 에이전트와 협업하여 콘텐츠의 기획, 생성, 편집을 한 번에 해결할 수 있는 '젠프레소' 플랫폼을 전면 개편했습니다. 이번 개편은 노드 기반 캔버스와 타임라인을 통합해 반복적인 프롬프트 입력 없이도 자막과 음악 작업까지 일원화된 제작 환경을 제공하는 것이 핵심입니다.

이 기사는 HumanLayer의 CEO Dex Horthy와의 대담을 통해, LLM 컨텍스트 창 활용 최적화 기술인 '컨텍스트 엔지니어링'의 중요성을 다룹니다. AI가 생성한 코드를 검증 없이 수용할 때 발생하는 아키텍처 오염과 유지보수 불가능 상태의 위험성을 경고하며, 효율적인 에이전트 구축을 위한 실무적 통찰을 제공합니다.

AI 코딩 에이전트가 실행할 수 있는 `rm -rf`나 `git reset --hard` 같은 파괴적인 명령어를 실시간으로 감지하고 차단하는 Rust 기반의 보안 훅(hook) 프로젝트입니다. 1ms 미만의 초저지연 성능을 유지하면서도 컨텍스트를 분석해 안전한 명령어와 위험한 명령어를 정밀하게 구분합니다.

AI 모델의 확률적 특성으로 인한 오류를 줄이기 위해서는 프롬프트 지침을 늘리는 대신, 모델이 거스를 수 없는 코드 기반의 '훅(hook)'과 같은 통제 구조를 구축해야 합니다. 진정한 경쟁력은 누구나 사용할 수 있는 범용 모델 자체가 아니라, 그 모델을 감싸서 특정 업무를 보장하고 사용자 환경에 통합시킨 '래퍼(wrapper)' 계층에서 나옵니다.

Codex CLI의 MultiAgentV2 업데이트 이후 서브에이전트에 전달되는 메시지가 암호화되면서, 로컬 로그나 이력에서 사람이 읽을 수 있는 프롬프트 내용이 사라지는 현상이 발견되었습니다. 현재 개발자들은 보안 강화와 디버깅 편의성 사이의 균형을 맞추기 위해 암호문과 평문 감사 데이터를 동시에 저장하는 이중 콘텐츠 계약 방식을 제안하며 해결책을 모색 중입니다.

OpenAI는 자가 플레이 방식을 활용해 AI의 취약점을 자동으로 찾아내고 개선하는 'GPT-Red' 시스템을 공개했습니다. 이 기술은 프롬프트 주입과 같은 공격으로부터 모델을 보호하고 정렬(alignment) 성능을 높이는 데 중점을 둡니다.

AI 에이전트는 외부 데이터를 읽고 도구를 실행하는 능동적 주체이므로, 프롬프트 인젝션과 같은 의미론적 공격을 막기 위해 입력값 필터링에 의존하는 것은 한계가 있습니다. 따라서 Pipel락은 공격의 유입을 차단하기보다 공격의 결과물인 데이터 유출이나 비정상적인 외부 호출을 제어하는 '이그레스 방화벽' 모델을 채택합니다.

OpenAI Codex CLI의 MultiAgentV2 기능에서 에이전트 간 통신 페이로드를 암호화하면서, 사람이 읽을 수 있는 작업 내용이 사라져 디버깅과 이력 추적이 불가능해지는 회귀 버그가 보고되었습니다. 보안 강화라는 목적은 달성했으나 시스템의 투명성이 훼손된 상태입니다.