AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 108 페이지
- 4
Show HN: Slotstream, Qwen3.8-Flash-Next 4-bit를 저메모리 Mac에서 실행하기
slotstream은 104GB에 달하는 대형 모델을 SSD에서 스트리밍하여, RAM 용량이 적은 Mac에서도 구동할 수 있게 해주는 혁신적인 도구입니다. Ollama 및 OpenAI API와 완벽히 호환되어 기존 AI 에코시스템을 그대로 활용하면서도 하드웨어의 물리적 한계를 극복합니다.
Show HN: Slotstream, run Qwen3.8-Flash-Next 4-bit on a low-memory Mac↗github.com
- 9
무료 모델, 종료된 장애를 계속 설명했다: 48시간의 컨텍스트-예산 현장 기록
무료 LLM을 사용해 로그를 요약하는 과정에서 토큰 제한으로 인해 과거 데이터가 삭제되며 발생하는 정보 왜곡 현상을 분석했습니다. 요약본이 이전 요약본에만 의존하게 되어 오류가 누적되는 문제를 방지하기 위해, 데이터 유실 횟수를 명시적으로 추적하는 2단계 요약 알고리즘을 제안합니다.
The Free Model Kept Explaining an Outage That Already Ended: 48 Hours of Context-Budget Field Notes↗dev.to
- 12
Amazon Bedrock Managed Knowledge Base로 기업 데이터를 활용한 멀티 테넌트 에이전트 챗 애플리케이션 구축
이 글은 기업용 멀티 테넌트 에이전틱 채팅 앱 구축 시 발생하는 데이터 격리 및 인프라 관리의 어려움을 Amazon Bedrock Managed Knowledge Base로 해결하는 방법을 다룹니다. 개발자는 복잡한 벡터 검색 및 인덱싱 인프라 대신 제품의 핵심 비즈니스 로직에만 집중할 수 있는 아키텍처를 구축할 수 있습니다.
Build multi-tenant agentic chat applications on enterprise data with Amazon Bedrock Managed Knowledge Base↗aws.amazon.com - 17
@huggingface/kernels 출시: 로컬 AI를 위한 200+ WebGPU 커널
Hugging Face는 브라우저 내 AI 추론 속도를 높이기 위해 207개의 WebGPU 커널을 포함한 @huggingface/kernels 라이브러리를 공개했습니다. 이 라이브러리는 각 커널을 개별 버전화된 패키지로 관리하며, 'Fleet'이라는 브라우저 기반 벤치마킹 도구를 통해 실시간 하드웨어 최적화 데이터를 수집합니다.
Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI↗huggingface.co



















