NVIDIA 뉴스
AI 반도체 시장을 주도하는 NVIDIA의 GPU, CUDA, 데이터센터 소식을 전합니다.
총 1,041건·최신 업데이트
NVIDIA 핵심 글
- 2
비드래프트, NPU 가속 소프트웨어 ‘VKORE’ 개발… 추론·학습 동시 구현
AI 전문 비드래프트가 신경망처리장치(NPU)의 추론 성능을 극대화하고 기존에 불가능하다고 여겨졌던 학습까지 구현하는 가속 소프트웨어 계층 ‘VKORE’를 13일 공개했다. 엔비디아 GPU의 CUDA처럼 NPU 환경에서 연산 효율과 활용 범위를 넓히는 구조로, 반도체 칩 교체 없이 소프트웨어 적용만으로 성능을 끌어냈다는 설명이다.실제로 트랜스포머 모델의 LoRA 학습 테스트에서 엔비디아 B200 GPU 1장이 1시간 걸리는 작업을 서버 CPU는 약 320시간 소요했으며, NPU를 기본 방식으로 구동했을 때는 CPU보다도 오랜 시간이
AI타임스↗aitimes.comAI타임스AI 모델
- 3
MS, 자체 AI 칩 대규모 배치 선언...차세대 '마이아 300' 공개
마이크로소프트(MS)가 자체 개발한 AI 칩 '마이아(Maia)' 제품군을 내년부터 수 기가와트(GW) 규모로 확대 배치한다. 동시에 차세대 칩 '마이아 300(Maia 300)'도 공개하며 엔비디아 GPU에 대한 의존도를 낮추고 급증하는 AI 서비스 운영 비용을 줄이겠다는 뜻을 밝혔다.사티아 나델라 MS CEO는 12일(현지시간) X와 공식 블로그를 통해 자체 실리콘 칩 ‘마이아’에 대한 역대 최대 규모의 투자를 진행한다고 밝혔다. 내년부터 마이아 제품군을 멀티 GW 규모로 배치하고, 자사 제품과 서비스의 주요 추론 시스템으로 활
AI타임스↗aitimes.comAI타임스AI 산업
- 4
MS, 자체 AI칩 '마이아300' 공개…“내년 100만개 투입”
마이크로소프트(MS)가 3세대 자체 인공지능(AI) 칩 '마이아300'을 공개했다. 내년부터 100만여개를 투입해 엔비디아 칩 의존도를 낮춘다. 12일(현지시간) 로이터통신 등에 따르면 MS는 내년부터 자체 개발한 '애저 마이아(Azure Maia)' 칩을 수 기가와트(GW) 규모로 확대해 자사 AI 제품과 서비스의 핵심 추론 인프라로 활용한다. 내년 마이아300 배치 규모는 100만개 이상에 이를 전망이다. 스콧 거스리 MS 클라우드·AI부문
전자신문 IT↗etnews.com전자신문 ITAI 산업
NVIDIA 관련 전체 글
- 7
마이크로소프트, 284B 모델을 랩탑에 넣는 방법 해부, 1.6-bit 숫자의 진실은?
마이크로소프트와 엔비디아가 1.6비트 양자화 기술을 활용해 284B 파라미터 모델을 Surface Laptop Ultra에서 구동하는 기술을 공개했습니다. 하지만 이는 128GB RAM을 탑재한 초고가 모델에서만 가능하며, 모델의 성능 유지를 위해 모든 레이어를 동일하게 압축하지 않는 고도의 공학적 최적화가 핵심입니다.
เราแกะวิธี Microsoft ยัดโมเดล 284B ลงแล็ปท็อป ว่าตัวเลข 1.6-bit นั้นจริงแค่ไหน↗dev.to












