NVIDIA Developer Blog

NVIDIA의 nvmath-python v1.0은 CUDA-X 및 NVPL 라이브러리를 파이썬 사용자가 쉽게 사용할 수 있도록 돕는 추상화 레이어입니다. NumPy, CuPy, PyTorch와 완벽하게 통합되며, 단일 GPU부터 멀티 노드 분산 시스템까지 유연한 연산 환경을 지원합니다.

NVIDIA AI Red Team은 AI 에이전트가 기업 데이터 및 도구에 연결되면서 발생하는 권한 관리 부재, 임의 코드 실행, 네트워크 통제 미비 등의 위험성을 경고합니다. 이를 해결하기 위해 모델의 판단에 의존하는 대신 샌드박스 환경 구축과 엄격한 네트워크 이그레스(Egress) 제한 등 인프라 수준의 보안 통제를 도입해야 한다고 강조합니다.

동일한 NVIDIA H100 또는 GB200 시스템이라도 커널, BIOS, NCCL 설정 등 미세한 구성 차이로 인해 학습 처리량이 최대 12%까지 저하될 수 있습니다. 본 기사는 실제 사례를 통해 SMMU, NUMA, NCCL 토폴로지 등 인프라 엔지니어가 반드시 점검해야 할 주요 성능 저하 원인과 해결책을 제시합니다.

본 기사는 NVIDIA NeMo Guardrails와 StarCoder2-7B NIM을 사용하여 보안이 강화된 AI 코딩 어시스턴트를 자가 호스팅하는 기술적 가이드를 제공합니다. 모델 외부에서 정책을 관리함으로써 데이터 주권 확보, 패키지 환각 방지, 그리고 성능 측정이 가능한 신뢰할 수 있는 개발 워크플로우 구축 방법을 설명합니다.

NVIDIA는 의료 로봇 개발의 핵심 장애물인 데이터 부족, 일반화 한계, 느린 개발 속도를 해결하기 위해 GPU 네이티브 의료 물리 시뮬레이션 프레임워크를 발표했습니다. 이 프레임워크는 고정밀 물리 엔진과 생성형 월드 모델을 결합하여 실제와 유사한 디지털 트윈 환경에서 로봇 학습과 합성 데이터 생성을 가능하게 합니다.

엔비디아는 양자 프로세서(QPU)의 진단 데이터를 해석하고 최적의 튜닝 방법을 결정하는 오픈 소스 VLM인 'Ising Calibration 1.5'를 발표했습니다. 이 모델은 향상된 문맥 학습(ICL)과 NVFP4 양자화를 통해 단일 GPU에서도 효율적인 구동이 가능하며, 다양한 양자 모달리티에 걸쳐 뛰어난 성능을 입증했습니다.

NVIDIA Labs는 에이전트를 파이썬 클래스로 정의하여 상태, 기능, 프롬프트를 통합 관리하는 오픈소스 프레임워크 NOOA를 발표했습니다. 이 프레임워크는 타입 기반의 입출력과 객체 참조 방식을 통해 토큰 비용을 절감하고 성능을 높이며, 에이전트가 스스로 지식 그래프 형태의 메모리를 구축하도록 설계되었습니다.

NVIDIA의 Nemotron 3 Ultra 모델이 ACE-RTL 에이전트와 결합하여 RTL(Register Transfer Level) 코딩 벤치마크인 CVDP에서 기존 모델을 압도하는 성능을 보여주었습니다. 이 시스템은 '생성-테스트-반성'의 반복적 워크플로우를 통해 오류를 스스로 수정하며, 기존 대비 토큰 사용량을 최대 71% 절감하는 고효율성을 달성했습니다.

Applied Materials와 NVIDIA는 CUDA-X 라이브러리를 활용해 소재 시뮬레이션부터 공정 설계, <0xED><0x8C><0xB9>(Fab) 최적화까지 연결하는 디지털 개발 모델을 선보였습니다. 이 협업은 양자 화학 및 챔버 시뮬레이션 속도를 최대 55배까지 높여 반도체 제조의 물리적 실험 의존도를 낮추고 혁신 속도를 가속화합니다.

NVIDIA의 ModelExpress(MX)는 모델 가중치 이동 시 최적의 경로를 선택하여 데이터 전송 비용과 지연 시간을 최소화합니다. GPU 간 직접 전송 및 디스크를 거치지 않는 스트리밍 기술을 통해 모델 로딩 및 오토스케일링 성능을 극대화합니다.

NVIDIA OptiX Toolkit(OTK)은 레이 트레이싱 애플리케이션 개발 시 발생하는 GPU 버그와 API 오류를 체계적으로 디버깅할 수 있는 유틸리티 모음입니다. 이 툴킷은 통합된 에러 체크 매크로와 정밀한 디바이스 측 디버그 출력 기능을 통해 개발자가 소스 코드 위치와 구체적인 오류 내용을 즉각 파악하도록 지원합니다.

NVIDIA Nemotron 3 Nano 모델을 Prime Intellect Lab의 서비스를 활용해 손쉽게 맞춤형으로 튜닝하는 방법을 소개합니다. 강화 학습(RLVR)과 LoRA 어댑터 기술을 통해 복잡한 인프라 구축 없이도 특정 도메인에 최적화된 AI 에이전트를 빠르게 구축할 수 있습니다.

TensorRT 엔진 빌드는 모델 복잡도에 따라 긴 시간이 소요될 수 있으며, 기존에는 진행 상황을 알 수 없거나 중단이 불가능한 문제가 있었습니다. IProgressMonitor API를 사용하면 Python과 C++ 환경에서 단계별 빌드 과정을 가시화하고, 특정 시점에 빌드를 취소하여 GPU 비용을 최적화할 수 있습니다.

NVIDIA는 에이전트 AI 워크로드에 최적화된 Vera CPU를 통해 단일 스레드 성능과 메모리 대역폭을 획기적으로 높였습니다. 올림푸스 코어의 신경망 분기 예측기와 넓은 디코드 엔진은 복잡한 제어 흐름을 가진 에이전트 실행 루프의 지연 시간을 최소화하는 데 집중합니다.

엔비디아의 차세대 루빈 GPU는 에이전트형 AI의 복잡한 추론 과정을 최적화하기 위해 설계되었으며, 블랙웰 대비 에너지 효율을 10배 향상시켰습니다. HBM4 메모리와 3세대 트랜스포머 엔진을 통해 대규모 언기 모델의 추론 성능과 데이터 처리 속도를 극대화하는 것이 핵심입니다.

NVIDIA GB300 NVL72 시스템이 MoE 아키텍처 기반의 DeepSeek-V3 학습에서 압도적인 성능을 기록하며 차세대 AI 인프라의 기준을 제시했습니다. 5세대 NVLink와 혁신적인 소프트웨어 최적화를 통해 대규모 모델 학습 시 발생하는 통신 병목 현상을 극복하고 높은 확장성을 입증했습니다.

NVIDIA는 6세대 NVLink를 통해 GPU당 최대 3.6TB/s, 랙 레벨에서 260TB/s에 달하는 압도적인 대역폭을 제공하며 AI 모델 학습과 추론의 병목 현상을 해결하고자 합니다. 이는 하드웨어와 소프트웨어를 통합 설계하여 거대 언어 모델(LLM) 시대에 최적화된 '스케일업(Scale-up) 네트워크'를 구축하는 것을 목표로 합니다.

NVIDIA가 NVIDIA Agent Toolkit의 일부로 RTX 센서 시뮬레이션 라이브러리인 ovrtx를 공개했습니다. 이 SDK는 OpenUSD 기반의 카메라, 라이다, 레이더 등 정교한 센서 출력을 기존 CAD나 로보틱스 워크플로우에 직접 통합하여 물리적 AI 검증과 합성 데이터 생성을 가능하게 합니다.

캡콤은 NVIDIA RTX Kit과 DLSS 기술을 활용해 RE ENGINE에 패스 트레이싱을 통합함으로써 직접 및 간접 조명의 실시간 구현을 가능케 했습니다. 이를 통해 에셋 제작 파이프라인의 근본적인 변화를 이끌어냈으며, 게임 플레이와 컷신 사이의 시각적 일관성을 크게 향상시켰습니다.

NVIDIA는 영상 분석 결과가 단순 관찰에 그치지 않고 기업의 워크플로우(티켓 생성, 보고서 작성 등)와 연동되어 실제 업무로 이어질 수 있도록 돕는 에이전트 구축 프레임워크를 소개했습니다. 이 솔루션은 비디오 분석(VSS)과 문서 기반 지식 검색(RAG)을 결합하여 상황에 맞는 자동화된 조치를 가능하게 합니다.

에이전트형 AI는 다수의 모델 및 도구 호출을 동반하므로, 인프라가 단순한 지원을 넘어 추론 프로세스의 일부로 통합되어야 합니다. NVIDIA는 BlueField-4 DPU와 STX 스토리지 프로세서를 통해 네트워크, 스토리지, 보안 작업을 CPU에서 오프로드함으로써 더 낮은 비용으로 높은 토큰 처리량과 효율적인 KV 캐시 관리를 구현합니다.

NVIDIA DeepStream 9.1은 카메라 보정 자동화와 여러 시점의 데이터를 통합하는 3D 트래킹 기능을 도입하여 대규모 공간에서의 객체 추적 난제를 해결합니다. 특히 에이전트 기반 기술과 자연어 프롬프트를 지원하여 개발자가 복잡한 비전 AI 파이프라인을 더욱 빠르고 쉽게 구축할 수 있도록 돕습니다.

NVIDIA Omniverse Labs의 nanousd-labs는 AI 에이전트가 USD 핵심 규격을 해석하여 맞춤형 경량 런타임을 자동 생성하는 기술을 선보였습니다. 이를 통해 개발자는 메모리나 성능 제약이 있는 환경에서도 표준을 준수하면서도 최적화된 USD 구현체를 빠르게 구축할 수 있습니다.

NVIDIA가 CUDA 13.3을 통해 Ampere 아키텍처 이후 GPU에서 사용할 수 있는 하드웨어 가속 명령어인 clmad를 공개했습니다. 이를 통해 AES-GCM의 GHASH 연산은 최대 18.8배, 영지식 증명에 쓰이는 Sum-check 프로토콜은 최대 13배까지 성능 향상이 가능해졌습니다.