AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 157 페이지
- 6
트위치 콘텐츠가 아마존 AI 학습에 수년간 사용되었으나, 이제 사용자 선택 가능
트위치는 스트림, VOD, 채팅 등 사용자 콘텐츠가 아마존의 생성형 AI 모델 학습에 활용되는 것을 사용자가 선택적으로 거부할 수 있도록 설정을 업데이트했습니다. 그동안 사용자들은 별도 설정 없이는 자동으로 AI 학습 데이터 제공에 동기화되어 있었으며, 이번 조치는 데이터 투명성과 창작자 권리 보호를 위한 움직임으로 풀이됩니다.
Twitch content has trained Amazon AI for years, but users can opt out now↗arstechnica.com
- 20
엔비디아, 치솟는 기업용 AI 비용 해결책은… 라우터?
엔비디아가 프롬프트 요청을 적절한 모델로 자동 배분하여 비용과 성능을 최적화하는 소프트웨어 플랫폼 'NeMo Switchyard'를 공개했습니다. 이 기술은 단순 작업은 저렴한 소형 모델에, 복잡한 작업은 고성능 모델에 할당함으로써 대규모 언어 모델(LLM) 사용 시 발생하는 막대한 추론 비용을 최대 74%까지 절감할 수 있습니다.
Nvidia's latest solution to soaring enterprise AI costs is...a router?↗theregister.com
- 21
NVIDIA GB300 NVL72에서 조정 가능한 추론 기능을 갖춘 2.4T 파라미터 모델 Qwen3.8-2.4T-A95B 서비스
알리바바가 공개한 2규모의 오픈 웨이트 모델 Qwen3.8-2.4T-A95B가 엔비디아 블랙웰 기반 GB300 NVL72에서 압도적인 추론 성능을 구현했습니다. 이 모델은 MoE 구조와 하이브리드 어텐션 기술을 통해 최대 100만 토큰의 긴 컨텍스트를 효율적으로 처리하며, 사용자가 작업에 따라 추론 깊이를 조절할 수 있는 기능을 제공합니다.
Serve Qwen3.8-2.4T-A95B, a 2.4T-Parameter Model, with Configurable Reasoning on NVIDIA GB300 NVL72↗developer.nvidia.com
- 22
파트 2: 아마존 아테나와 쿠두스를 활용한 아마존 베드락 비용 귀속
이 글은 Amazon Bedrock 사용 비용을 IAM principal(사용자/애플리케이션) 단위로 분리하여 분석하는 방법을 다룹니다. CUR 2.0의 특정 설정을 통해 비용 데이터를 확장하고, Athena와 CUDOS 대시보드를 사용하여 팀이나 프로젝트별로 정밀한 비용 추적 및 시각화를 구현하는 과정을 설명합니다.
Part 2: Amazon Bedrock cost attribution with Amazon Athena and CUDOS↗aws.amazon.com



















