AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 98 페이지
- 1
모바일 LLM 추론을 위한 프리필 청킹 및 프롬프트 배치: Android에서 첫 번째 토큰 지연 숨기기
모바일 기기 내 LLM 실행 시 긴 프롬프트 처리가 전체 추론 성능과 UI 반응성을 저해하는 문제를 해결하기 위해, 프롬프트를 작은 단위로 나누어 처리하는 청킹 프리필 방식을 제안합니다. 이를 통해 스냅드래곤 8 Gen 3에서 약 10%의 처리량 손실을 감수하면서도 첫 토큰 지연 시간을 265ms까지 낮추는 구체적인 최적화 기법을 다룹니다.
Prefill Chunking and Prompt Batching for Mobile LLM Inference: Hiding First-Token Latency on Android↗dev.to
- 10
OpenAI, 기업이 실시간 음성 에이전트 및 챗봇을 출시하고 관리할 수 있는 새로운 플랫폼 Presence 공개
OpenAI가 고객 응대 및 내부 워크플로우 자동화를 위한 새로운 엔터프라이즈 플랫폼 'Presence'를 발표했습니다. 이 플랫폼은 기업의 보안 정책과 권한 체계 내에서 질문 답변, 시스템 접근, 작업 수행을 관리할 수 있는 AI 에이전트 배포 기능을 제공하며 현재 제한적 일반 공개(LGA) 단계에 있습니다.
OpenAI unveils Presence, a new platform that lets enterprises launch and manage realtime voice agents and chatbots↗venturebeat.com



![[게시판] 사이버네틱스, AI 사주에 스토리텔링 결합한 'MZ무녀 피안 연애사주’ 출시 등 단신](https://startupschool.cc/og/게시판-사이버네틱스-ai-사주에-스토리텔링-결합한-mz무녀-피안-연애사주-출시-등-단신-b3fc33.jpg)











![[뉴스줌인] 목표 달성 위해 해킹 감행한 AI…샌드박스마저 뚫었다](https://startupschool.cc/og/뉴스줌인-목표-달성-위해-해킹-감행한-ai샌드박스마저-뚫었다-c9786f.jpg)




