AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 82 페이지
- 18
OpenAI, 개발자를 위한 AI 대화 도구 출시: 동시에 말하고 들을 수 있습니다
OpenAI가 실시간 대화 중 끼어들기 처리가 가능한 GPT-Live-1 모델을 API 형태로 공개했습니다. 이 모델은 기존의 턴제 방식에서 벗어나 음성을 동시에 처리할 수 있어, Yelp의 예약 시스템처럼 훨씬 매끄럽고 반응성이 뛰어난 음성 기반 AI 에이전트 구현을 가능하게 합니다.
OpenAI arms devs with AI conversation tool that can talk and listen at the same time↗theregister.com
- 21
Amazon SageMaker Inference에서 Prefix-Aware 라우팅으로 LLM 지연 시간 감소
Amazon SageMaker Inference가 프롬프트의 공통된 부분을 식별해 동일 인스턴스로 전달하는 'Prefix-Aware Routing' 기능을 출시했습니다. 이를 통해 분산 환경에서도 KV 캐시 적중률을 높여 LLM 추론의 첫 토큰 생성 시간(TTFT)을 대폭 줄이고 처리량을 개선했습니다.
Reduce LLM latency with prefix-aware routing on Amazon SageMaker Inference↗aws.amazon.com
- 23
Amazon Bedrock Knowledge Base에서 Marengo 3.0을 활용한 비디오 및 이미지 검색
Amazon Bedrock Knowledge Bases에 TwelveLabs의 Marengo Embed 3.0 모델이 도입되어 비디오와 이미지 등 멀티모달 데이터에 대한 자연어 검색이 가능해졌습니다. 복잡한 전처리 파이프라인 구축 없이 S3에 저장된 영상 및 이미지 자산을 관리형 서비스로 즉시 인덱싱하고 의미 기반으로 검색할 수 있습니다.
Video and image search in Amazon Bedrock Knowledge Base using Marengo 3.0↗aws.amazon.com




















