NVIDIA Developer Blog

ReplaySSM은 SSM 레이어의 상태를 매번 업데이트하는 대신, 체크포인트와 최근 입력 버퍼로 분리하여 관리하는 기술입니다. 이를 통해 메모리 트래픽을 절반으로 줄이고, 스펙큘레이티브 디코딩의 효율성과 양자화 정확도를 동시에 개선했습니다.

NVIDIA는 AI 에이전트와 Omniverse 도구를 활용해 CAD 파일을 물리적 특성이 검증된 시뮬레이션용 에셋으로 변환하는 'SimReady' 워크플로우를 제시했습니다. 이 프로세스는 STEP 파일 변환부터 물리 속성 설정, 최종 시뮬레이션 테스트까지 5단계로 구성되며, AI가 Python 코드를 작성해 수동 작업의 부담을 줄여줍니다.

NVIDIA KGMON 팀은 소형 LLM을 활용해 복잡한 데이터 소스를 분석하는 에이전트를 구축하며, 모델의 자유도를 제한하고 도구 세트를 최소화하는 전략으로 KDD Cup 2026에서 2위를 기록했습니다. 이들은 데이터 소스를 단일 SQL 인터페이스로 통합하고, 실행 과정을 추적 가능한 구조로 설계하여 에이전트의 추론 오류를 최소화하고 신뢰성을 높였습니다.

NVIDIA는 GB300 슈퍼칩 조립의 핵심인 버스바 조립과 커넥터 삽입 작업을 수행하는 지능형 로봇 시스템을 공개했습니다. 이 시스템은 FoundationPose와 Sim-to-Real 강화학습을 활용하여 높은 정밀도와 성공률을 달성하며, 물리적 AI가 복잡한 제조 환경에 적용될 수 있음을 보여주었습니다.

NVIDIA는 DSX Air 디지털 트윈과 AI 에이전트를 활용해 물리적 하드웨어 도착 전 AI 팩토리의 구성과 소프트웨어 통합을 검증하는 기술을 소개했습니다. 이를 통해 인프라 설계부터 운영까지 전 과정에서 오류를 최소화하고, AI 서비스의 실제 배포 시간을 단축할 수 있습니다.

NVIDIA cuOpt의 새로운 mPDLP 솔버는 NVLink로 연결된 멀티 GPU를 활용해 대규모 선형 계획법(LP) 문제를 분산 처리하여 연산 시간과 GPU당 메모리 사용량을 획기적으로 줄입니다. 이를 통해 기존 단일 GPU로는 불가능했던 수억 개의 변수를 가진 복잡한 공급망 및 에너지 그리드 최적화 문제를 실시간에 가깝게 해결할 수 있습니다.

NVIDIA의 cuPhoton은 센서 데이터 읽기부터 최종 분류까지 모든 단계를 GPU 내에서 유지하여 데이터 병목 현상을 제거하는 CUDA-X 툴킷입니다. 이를 통해 천문학 등 대규모 데이터가 발생하는 분야에서 기존 CPU 기반 방식 대비 수개월이 걸리던 분석 작업을 단 몇 분 만에 완료할 수 있습니다.

NVIDIA는 Megatron Core를 활용해 대규모 사전 학습 과정에서 발생하는 비결정론적 요소를 제어하고 비트 단위의 동일한 학습 궤적을 보장하는 기술을 선보였습니다. 이를 통해 학습 중 발생하는 손실 급증(loss spike)이나 시스템 오류를 정확히 재현하고 디버깅할 수 있으며, 학습 오버헤드를 2% 수준으로 최소화했습니다.

NVIDIA의 DOCA GPUNetIO는 CUDA 커널이 CPU를 거치지 않고 직접 Ethernet, RDMA 등을 제어할 수 있게 하여 네트워크 병목을 해결하는 통합 프레임워크입니다. 이를 통해 NCCL, NVSHMEM 등 주요 통신 라이브러리가 단일화된 기반 위에서 동작하며, 분산 AI 학습 및 실시간 데이터 처리의 성능을 극대화합니다.

NVIDIA AI Cluster Runtime(AICR) v1.0은 GPU 드라이버, 커널, Kubernetes 등 복잡한 구성 요소 간의 호환성을 보장하는 '검증된 레시피'를 제공합니다. 이를 통해 운영자는 버전 충돌 없이 안정적인 GPU 클러스터를 신속하게 배포하고, 검증된 증거를 바탕으로 클러스터 상태를 확인할 수 있습니다.

CUDA 13.1의 그린 컨텍스트는 SM(Streaming Multiprocessor)과 워크큐를 명시적으로 할당하여 단일 GPU 내에서 서로 다른 성격의 워크로드를 독립적으로 제어할 수 있게 합니다. 이를 통해 지연 시간 민감한 커널의 대기 시간을 획기적으로 줄일 수 있으며, 기존 CUDA 워크플로우를 유지하면서도 점진적인 도입이 가능합니다.

NVIDIA는 일반 AI 에이전트가 전문적인 DOCA 소프트웨어 개발 시 겪는 오류를 해결하기 위해 API 서명과 하드웨어 제약 조건을 포함한 'DOCA 에이전트 스킬'을 GitHub에 공개했습니다. 실험 결과, 스킬을 적용한 에이전트는 개발 작업의 체크리스트를 100% 완수하며 개발 효율성을 극대화했습니다.

NVIDIA가 공개한 'DIN Deploy'는 Python으로 학습된 모델을 ONNX 형식으로 변환하여 C++ 환경에서 고속 추론을 가능하게 하는 오픈소스 샘플 모음입니다. Whisper, SAM 2.1, FLUX.2 등 최신 모델을 지원하며, GPU 가속을 통해 CPU 대비 수십 배 이상의 압도적인 성능 향상을 제공합니다.

NVIDIA NeMo 프레임워크를 활용해 사우디의 Najdi 및 Hijazi 방언에 특화된 ASR 미세 조정 워크플로우를 공개했습니다. 이 방식은 데이터 재구성 및 가중치 재현 기술을 통해 특정 방언의 인식률을 대폭 개선하면서도 기존 언어 성능 저하를 방지하는 데 성공했습니다.

기존의 단계별 추천 방식에서 벗어나 사용자 행동을 시퀀스 모델링으로 처리하는 생성형 추천(GR) 시스템의 효율적인 배포 방법을 제시합니다. PyTorch AOTI 컴파일과 FlexKV 기반 KV 캐싱을 결급하여 긴 사용자 이력을 처리할 때 발생하는 연산 비용을 획기적으로 줄였습니다.

NVIDIA가 RDMA 기반의 가속화된 객체 스토리지 접근을 지원하는 cuObject 라이브러리를 정식 출시하고, SCADA Server SDK를 통해 GPU 중심의 스토리지 인프라 구축을 지원합니다. 이를 통해 AI 개발자는 CPU 부하를 줄이면서도 대규모 데이터를 저지연·고대역폭으로 처리할 수 있는 표준화된 환경을 확보하게 됩니다.

NVIDIA NeMo Relay는 AI 에이전트의 실행 과정을 ATOF, ATIF, OpenTelemetry 등 다양한 포맷으로 기록하여 에이전트의 행동 패턴을 정밀하게 분석할 수 있는 공통 관측 계층을 제공합니다. 이를 통해 개발자는 에이전트가 작업을 완수했더라도 발생한 불필요한 도구 호출이나 높은 토큰 비용 등 비효율적인 경로를 식별하고 개선할 수 있습니다.

NVIDIA는 AI 에이전트가 생성한 코드를 검증 가능한 모듈형 단위로 처리하는 'AI 네이티브' 설계 방식을 통해 TensorRT Model Connect 프로젝트를 구축했습니다. 이 방식은 에이전트의 불확실성을 제어하기 위해 작업의 수평적 확장성, 모델 패밀리 격리, 그리고 자동화된 검증 체계를 핵심 공학 원칙으로 삼습니다.

엔비디아의 VSS 블루프린트 3.3은 비전-언어 모델(VLM)과 LLM을 결합하여 영상 데이터를 자연어 검색, 질의응답, 자동 보고서로 변환하는 기술입니다. 새로운 빌드 스킬을 통해 개발 시간을 단축하고, 적응형 비디오 샘플링(EVS) 기술로 운영 비용과 지연 시간을 대폭 줄였습니다.

NVIDIA는 AI 에이전트가 샌드박스를 벗어나 시스템에 침입하는 보안 위협을 막기 위해 OpenShell과 NVIDIA Sentry를 결합한 계층적 안전 아키텍처를 발표했습니다. 이 플랫폼은 CPU와 DPU 수준에서 에이전트의 행동을 실시간으로 감시하고 정책을 강제하여 에이전트의 신드롬적 행동과 권한 남용을 방지하는 것을 목표로 합니다.

NVIDIA OpenShell 0.1.0은 AI 에이전트의 코드를 수정하지 않고도 샌드박스 실행, 자격 증명 관리, 정책 검증을 통해 에이전트의 시스템 및 데이터 접근 권한을 강제하는 오픈소스 런타임입니다. 이를 통해 기업은 에이전트의 자율적인 작업 수행을 허용하면서도 보안 및 거버넌스 통제권을 확보할 수 있습니다.

NVIDIA DSX MaxLPS는 AI 워크로드의 전력 변동성을 활용해 전력을 동적으로 할당함으로써 데이터 센터의 GPU 밀도를 극대화하는 기술입니다. 실제 테스트 결과, 동일 전력 예산 내에서 GPU를 140개에서 192개로 확장하여 전체 처리량을 약 49% 개선하는 성과를 거두었습니다.

이 기사는 MoE(Mixture-of-Experts) 구조의 학습 효율을 극대화하기 위한 NVIDIA의 기술적 접근법을 다룹니다. GroupedLinear, MXFP8 정밀도, 커널 퓨전 기술을 통해 GPU 활용도를 높이고 메모리 사용량을 줄임으로써 생물학적 파운데이션 모델 학습 성능을 획기적으로 개선할 수 있음을 보여줍니다.

NVIDIA는 3D CT 분석을 위해 전문의의 체계적 검토 과정을 모방하는 새로운 VLM인 NV-Reason-CT를 발표했습니다. 이 모델은 3D 비전 트랜스포머를 통해 입체적 구조를 파악하고, 연쇄적 사고(CoT)를 통해 구조화된 진단 보고서를 생성하며 기존 모델 대비 뛰어난 성능을 입증했습니다.