AI 모델 (LLM·GPT·Claude·Gemini)
GPT, Claude, Gemini, Llama 등 AI 모델(LLM) 출시·벤치마크·API 변경사항을 모읍니다.
최신 업데이트
AI 모델 관련 글 — 18 페이지
- 3
임베더블 AI 위젯을 위한 레이트 리미팅 및 비용 통제: 실용적인 아키텍처
웹사이트에 삽입되는 AI 위젯은 누구나 접근 가능해 악의적인 요청으로 인한 LLM 및 TTS 비용 폭증 위험이 높습니다. 이를 방지하기 위해 세션/IP 기반 레이트 리미팅, 비용 한도 설정(Circuit Breaking), 시맨틱 캐싱, 생성 길이 제한 등 5단계의 다층적 비용 통제 전략을 제안합니다.
Rate Limiting and Cost Control for Embeddable AI Widgets: A Practical Architecture↗dev.to
- 6
QNME-Omega을 소개합니다: 4코어 노트북에서 GPU 없이 193K 페어 MoE 모델 학습하기
QNME-Omega는 데이터 규모에 맞춰 모델 크기를 자동으로 조정하고, 디스크 기반의 청크 캐싱 기술을 통해 RAM 부족 문제를 해결하는 새로운 학습 엔진입니다. 이를 통해 GPU가 없는 4코어 노트북에서도 19만 개 이상의 데이터를 안정적으로 학습할 수 있음을 입증했습니다.
How I Trained a 193K-Pair MoE Model on a 4-Core Laptop Without a GPU (Introducing QNME-Omega)↗dev.to
- 7
결제 강자 스트라이프, AI 토큰 판매를 위한 관문으로 자리매김하며 70억 달러 투자
결제 기업 스트라이프(Stripe)가 다양한 AI 모델을 연결하는 게이트웨이인 오픈라우터(OpenRouter)를 70억 달러 규모에 인수할 예정입니다. 이번 인수를 통해 스트라이프는 결제 데이터와 AI 토큰 사용 데이터를 동시에 확보하며, AI 시대의 핵심적인 유통 및 결제 허브로 도약하려는 발판을 마련했습니다.
Payments giant Stripe is about to drop over $7 billion to become a gateway to AI token sales↗theregister.com
- 8
Ayeixa MCP 가디언 출시: MCP를 위한 기능 제한 및 매개변수 정제
Ayeixa MCP Guardian은 LLM이 데이터베이스나 파일 시스템에 직접 접근할 때 발생할 수 있는 권한 남용 및 악성 명령어 실행 위험을 방지하는 보안 미들웨어입니다. RBAC 기반의 도구 접근 제어, 파라미터 정제, 그리고 위변조가 불가능한 감사 로그 기능을 통해 MCP 환경의 안전성을 높이는 데 집중합니다.
Introducing Ayeixa MCP Guardian: Capability Fencing & Parameter Sanitization for MCP↗dev.to
- 12
NVIDIA Model Optimizer를 사용한 QAD로 Nemotron 3.5 Lightning NVFP4 개발
NVIDIA는 Model Optimizer를 활용한 QAD(Quantization-Aware Distillation) 파이프라인을 통해 Nemotron 3.5 Lightning 모델의 NVFP4 체크포인트를 개발했습니다. 이 방식은 PTQ보다 공격적인 양자화를 가능하게 하여 모델 크기를 1/3로 줄이고 추론 성능을 최대 4배 향상시켰습니다.
Developing Nemotron 3.5 Lightning NVFP4 with QAD Using NVIDIA Model Optimizer↗developer.nvidia.com
- 13
NVIDIA 네모트론 3.5 라이트닝, 아마존 세이저메이커 점프스타트에 출시
NVIDIA Nemotron 3.5 Lightning은 고빈도 에이전트 작업에 최적화된 하이브리드 MoE 구조의 오픈 모델로, Amazon SageMaker JumpStart를 통해 손쉽게 배포할 수 있습니다. 이 모델은 30B 파라미터 중 3B만 활성화하여 높은 처리량과 빠른 속도를 제공하며, 대규모 에이전트 시스템 구축 시 비용과 지연 시간을 획기적으로 줄여줍니다.
NVIDIA Nemotron 3.5 Lightning now available in Amazon SageMaker JumpStart↗aws.amazon.com
- 15
희귀 도서 운송 과정을 추적했습니다. 아마존 AI 훈련 시설에서 끝났습니다.
404 Media는 에어태그를 이용해 희귀 도서의 배송지를 추적한 결과, 해당 물량이 아마존의 AI 학습용 시설인 VGT3로 전달되었음을 확인했습니다. 이는 거대 AI 기업들이 고품질 학습 데이터를 확보하기 위해 대규모 도서 구매 및 파괴적 스캐닝을 진행하고 있다는 의혹을 뒷받침하는 증거로 주목받고 있습니다.
We Tracked a Shipment of Rare Books. It Ended at an Amazon AI Training Facility↗simonwillison.net
















