AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 32 페이지
- 12
엔비디아, 치솟는 기업용 AI 비용 해결책은… 라우터?
엔비디아가 프롬프트 요청을 적절한 모델로 자동 배분하여 비용과 성능을 최적화하는 소프트웨어 플랫폼 'NeMo Switchyard'를 공개했습니다. 이 기술은 단순 작업은 저렴한 소형 모델에, 복잡한 작업은 고성능 모델에 할당함으로써 대규모 언어 모델(LLM) 사용 시 발생하는 막대한 추론 비용을 최대 74%까지 절감할 수 있습니다.
Nvidia's latest solution to soaring enterprise AI costs is...a router?↗theregister.com
- 13
NVIDIA GB300 NVL72에서 조정 가능한 추론 기능을 갖춘 2.4T 파라미터 모델 Qwen3.8-2.4T-A95B 서비스
알리바바가 공개한 2규모의 오픈 웨이트 모델 Qwen3.8-2.4T-A95B가 엔비디아 블랙웰 기반 GB300 NVL72에서 압도적인 추론 성능을 구현했습니다. 이 모델은 MoE 구조와 하이브리드 어텐션 기술을 통해 최대 100만 토큰의 긴 컨텍스트를 효율적으로 처리하며, 사용자가 작업에 따라 추론 깊이를 조절할 수 있는 기능을 제공합니다.
Serve Qwen3.8-2.4T-A95B, a 2.4T-Parameter Model, with Configurable Reasoning on NVIDIA GB300 NVL72↗developer.nvidia.com
- 14
파트 2: 아마존 아테나와 쿠두스를 활용한 아마존 베드락 비용 귀속
이 글은 Amazon Bedrock 사용 비용을 IAM principal(사용자/애플리케이션) 단위로 분리하여 분석하는 방법을 다룹니다. CUR 2.0의 특정 설정을 통해 비용 데이터를 확장하고, Athena와 CUDOS 대시보드를 사용하여 팀이나 프로젝트별로 정밀한 비용 추적 및 시각화를 구현하는 과정을 설명합니다.
Part 2: Amazon Bedrock cost attribution with Amazon Athena and CUDOS↗aws.amazon.com
- 16
OpenWALDO, 독점적인 AI 학습 모델의 장벽을 허물고자 합니다.
CentOS와 Rocky Linux의 창립자 그레고리 커처가 주도하는 OpenWALDO 프로젝트는 누구나 기여할 수 있는 투명한 오픈소스 AI 학습 데이터셋 구축을 목표로 합니다. 이 프로젝트는 기존 오픈 웨이트 모델들이 가진 데이터 출처 불분명성, 저작권 리스크, 그리고 중복된 컴퓨팅 자원 낭비 문제를 해결하여 효율적이고 검증 가능한 AI 개발 기반을 제공하고자 합니다.
OpenWALDO aims to blow the doors off proprietary AI training models↗theregister.com



















