AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 142 페이지
- 1
LLM이 요청하신 두 열을 병합했는데, 평가에서 오답으로 표시되었습니다
Text-to-SQL 모델이 두 개의 열을 하나로 병합하여 더 직관적인 결과를 내놓더라도, 기존 벤치마크의 실행 정확도(Execution Accuracy) 측정 방식 때문에 오답으로 처리되는 현상을 분석했습니다. 저자는 이를 해결하기 위해 감성적인 프롬프트 수정 대신, 손실 원인을 구조적으로 분류하고 개선 가능한 최대치를 수치로 확인하는 데이터 기반 접근법을 제안합니다.
Your LLM fused the two columns you asked for — and the eval marked it wrong↗dev.to
- 2
토큰마이닝: 토큰이 AI 경제의 생산 단위로 자리 잡는 과정 (2026-2030)
AI 경제가 토큰을 기본 생산 단위로 삼는 '토큰 마이닝' 시대로 진입하며, 데이터 센터의 가치는 전력 대비 토큰 산출량에 의해 결정될 전망입니다. 토큰 가격 하락에도 불구하고 효율성 증대가 오히려 수요 폭증을 부르는 제번스의 역설이 나타나며, 2030년까지 수조 달러 규모의 인프라 투자가 예상됩니다.
Tokenmining: How the Token Became the Unit of Production of the AI Economy (2026 2030)↗dev.to
- 4
Meta의 새로운 Muse 이미지 모델, 다른 Instagram 사용자들을 AI 사진에 통합 가능
Meta는 Llama를 대체하는 새로운 AI 모델 제품군인 'Muse'의 첫 번째 이미지 생성 모델인 Muse Image를 발표했습니다. 이 모델은 인스타그램 사용자 태깅을 통해 타인의 이미지를 합성하거나, 가구 재배치 및 30여 가지의 새로운 AI 효과를 제공하며 소셜 미디어 경험을 완전히 바꿀 예정입니다.
Meta’s new Muse Image model can pull other Instagram users into AI photos↗theverge.com
- 14
OpenRouter 대안: 자체 호스팅, 낮은 수수료 또는 실질적인 거버넌스가 필요하다면
OpenRouter는 다양한 모델을 하나의 API로 제공하지만, 데이터 보안, 비용 효율성, 관찰 가능성 측면에서 한계가 있습니다. 이에 대한 대안으로 자체 호스팅이 가능한 LiteLLM이나 강력한 관리 기능을 갖춘 TrueFoundry, Portkey와 같은 AI 게이트웨이를 제시합니다.
OpenRouter Alternatives: If You Need Self-Hosting, Lower Fees, or Real Governance↗dev.to
- 18
vLLM vs SGLang: 아키텍처 심층 분석, KV-캐시 고정 및 분산 추론 확장성 비교
vLLM과 SGLang은 각각 공유 KV-캐시와 비동기 코루틴 모델을 통해 LLM 추론 성능을 극대화하는 엔진입니다. 본문은 KV-캐시의 메모리 점유율 계산부터 NVMe 오프로딩 시 발생하는 지연 시간 문제, 그리고 NCCL 기반 분산 통신 최적화 방안을 구체적인 수치와 함께 다룹니다.
vLLM vs SGLang: Architectural Deep‑Dive, KV‑Cache Pinning, and Distributed Inference at Scale↗dev.to


















