NVIDIA 뉴스
AI 반도체 시장을 주도하는 NVIDIA의 GPU, CUDA, 데이터센터 소식을 전합니다.
총 1,044건·최신 업데이트
- 381
OpenAI의 차기 Jalapeño 칩, 추론 성능 압도적으로 뛰어보이네요
OpenAI가 Hot Chips 컨퍼런스에서 공개한 'Jalapeño' 칩은 추론 성능 극대화에 초점을 맞춘 커스텀 실리콘으로, 엔비디아의 최신 시스템 대비 월등한 메모리 대역폭과 낮은 지연 시간을 제공합니다. 이 칩은 2027년 본격적인 양산을 목표로 하며, 학습보다는 추론 효율성을 높여 AI 서비스 운영 비용을 혁신적으로 절감하는 데 목적이 있습니다.
OpenAI's upcoming Jalapeño chip looks like it'll be an inference beast↗theregister.com
- 388
Perplexity, Nvidia와 협력하여 토큰 비용 없는 완전 로컬 AI 에이전트, Portable Computer 출시
Perplexity가 Nvidia의 DGX Spark 및 RTX GPU 기반의 로컬 AI 에이전트 플랫폼인 'Portable Computer'를 출시했습니다. 이 플랫폼은 클라우드 의존도를 낮추고 모델과 데이터를 로컬 장치에서 직접 처리하여 토큰 비용을 제거하는 것을 목표로 합니다.
Perplexity partners with Nvidia to launch Portable Computer, a fully local AI agent with zero token costs↗venturebeat.com
- 390
NVIDIA NIM 카탈로그는 키 없이 쿼리 가능, DeepSeek-R1은 제외
NVIDIA NIM의 모델 카탈로그는 API 키 없이도 접근 가능한 공개 엔드포인트를 제공하며, 이를 통해 현재 사용 가능한 모델 목록을 실시간으로 확인할 수 있습니다. 최근 DeepSeek-R1 등 최신 모델이 목록에서 제외된 사례가 발견됨에 따라, 개발자는 이 엔드포인트를 CI/CD 파이프라인에 통합하여 모델 ID 변경으로 인한 런타임 에러를 사전에 방지할 수 있습니다.
NVIDIA NIM's catalog is queryable without a key, and DeepSeek-R1 is off it↗dev.to
- 393
엔비디아 고위 관리자, 중국으로 AI 서버 밀수 계획에 연루 의혹
대만 검찰은 미국의 대중국 반도체 수출 통제를 위반하여 고성량 AI 서버를 중국으로 불법 반출하려 한 혐의로 엔비디아 관리자와 슈퍼마이크로 직원 등을 기소했습니다. 이들은 서류 위조를 통해 서버가 대만 내에 있는 것처럼 꾸며 중국 고객에게 전달하려 했으며, 이 과정에서 글로벌 AI 하드웨어 공급망의 조직적인 우회 시도가 드러났습니다.
Nvidia senior manager linked to Supermicro scheme smuggling AI servers to China↗arstechnica.com
- 394
NVIDIA 베라 루빈과 블랙웰, 와트당 에이전트 AI 성능의 새로운 기준을 제시
SemiAnalysis의 AgentX 벤치마크 결과, NVIDIA의 베라 루빈 NVL72는 GB300 대비 에이전트 AI 처리량을 전력 효율 측면에서 최대 30배 높였습니다. 이는 MoE 모델과 에이전트 워크로드의 특성을 반영한 시스템 레벨의 최적화와 NVLink 기술의 결합을 통해 달성된 성과입니다.
NVIDIA Vera Rubin and Blackwell Set a New Standard for Agentic AI Performance per Watt↗developer.nvidia.com
- 395
NVIDIA Groq 3 LPX, NVIDIA Vera Rubin에서 장문맥(Long Context) 기반 초고속 인터랙티브 성능을 구현
NVIDIA Groq 3 LPX와 Vera Rubin NVL72 플랫폼의 결합을 통해 100K 이상의 긴 문맥에서도 초당 3,000 토큰 이상의 초고속 인터랙티브 성능을 입증했습니다. 이는 칩 간 통신 지연을 최소화하는 기술을 통해 대규모 에이전틱 AI 서비스의 실시간 상호작용을 가능하게 합니다.
How NVIDIA Groq 3 LPX Unlocks Ultrafast Interactivity at Long Context on NVIDIA Vera Rubin↗developer.nvidia.com
- 397
Nvidia의 첫 번째 Groq 3 LPU 벤치마크가 200억 달러 규모의 투자에 대해 알려주는 내용
엔비디아가 인수한 Groq의 LPU 기술을 탑재한 LPX 랙 시스템이 Gemma 4 31B 모델 테스트에서 기존 경쟁사 대비 4배 빠른 초당 3,400토큰의 추론 속도를 입증했습니다. 이는 SRAM 기반의 데이터플로우 아키텍처를 통해 메모리 대역폭 병목을 극복하고, 실시간 응답성이 중요한 AI 에이전트 시대를 선도하려는 엔비디아의 전략적 행보를 보여줍니다.
What Nvidia's first Groq 3 LPU benchmarks tell us about its $20B gamble↗theregister.com
- 398
NVIDIA BlueField-4, 에이전트 AI 팩토리용 새로운 스케일-인 네트워크 인프라 구동
NVIDIA는 에이전트 AI 환경의 복잡한 데이터 흐름을 관리하기 위해 BlueField-4 DPU와 DOCA 소프트웨어를 활용한 'Scale-In' 네트워크 인프라를 도입했습니다. 이는 호스트 CPU의 부하를 줄이고 보안, 스토리지 액세스, 네트워크 운영을 가속화하여 AI 팩토리의 효율성을 극대화하는 것을 목표로 합니다.
NVIDIA BlueField-4 Powers New Scale-In Network Infrastructure for Agentic AI Factories↗developer.nvidia.com
- 399
AI 벤더사들이 Microsoft의 Windows 정책 전환에 맞서 커스텀 하드웨어에 눈을 돌리고 있다.
AI 인프라 시장이 엔비디아의 GPU 독점 체제에서 벗어나 Cerebras, Marvell, Waymo와 같은 맞춤형 커스텀 실리콘으로 다변화되고 있습니다. 동시에 마이크로소프트는 윈도우 11의 사용자 편의성을 개선하고 NPU 성능 모니터링 기능을 강화하며 AI 하드웨어 활용도를 높이는 변화를 꾀하고 있습니다.
AI vendors are turning to custom hardware as Microsoft winds back the clock on Windows↗theregister.com










