NVIDIA 뉴스

NVIDIA Holoscan을 활용해 AI 코딩 에이전트가 엔지니어의 가이드에 따라 실시간 내시경 도구 세그멘테이션 앱을 개발하는 과정을 다룹니다. CLI와 문서, 특정 개발 스킬을 에이전트에 통합 제공했을 때 가장 효율적인 개발 워크플로우를 달성할 수 있음을 실험으로 증명했습니다.

GPS 정보가 삭제된 이미지에서 섬들의 상대적 위치 관계를 기하학적 삼각형 모델로 변환한 뒤, OpenStreetMap 데이터를 활용해 전 세계 지형과 대조하는 기술적 접근법을 다룹니다. 특히 방대한 후보군을 효율적으로 줄이기 위한 단계별 필터링 전략과 CUDA 프로그래밍을 통한 초고속 병렬 연산 과정을 상세히 설명합니다.

에이전트형 AI 시스템은 반복적인 루프로 인해 기존 채팅 인터페이스보다 훨씬 많은 토큰을 소비하며, 이는 서비스의 수익성을 악화시키는 주요 원인이 됩니다. 본 기사는 NVIDIA NeMo Switchyard와 Kong AI Gateway를 결합하여 프롬프트 복잡도에 따라 최적의 모델을 동적으로 할당함으로써 비용과 성능을 동시에 최적화하는 기술적 방안을 다룹니다.

NVIDIA FLARE는 텐서 스트리밍과 디스크 기반 집계 기술을 통해 대규모 멀티모달 모델의 연합 학습 시 발생하는 네트워크 및 메모리 제약을 해결합니다. 특히 FedUMM 사례는 LoRA 어댑터만을 교환함으로써 통신량을 기존 대비 약 300배 절감하면서도 높은 성능을 유지할 수 있음을 보여줍니다.

NVIDIA Cosmos 3 Edge는 4B 규모의 모델로, Jetson Thor와 같은 온디바이스 하드웨어에서 실시간으로 로봇 동작을 제어할 수 있도록 설계되었습니다. 이 기술은 물리적 상호작용에 대한 사전 지식을 활용해 사후 학습을 진행함으로써, 클라우드 연결 없이도 저지연·고효록의 로봇 조작 정책을 구현합니다.

NVIDIA는 AI 에이전트가 특정 도구와 지침(Skill)을 사용할 때의 성능 변화를 측정하는 오픈소스 평가 프레액워크인 SkillEvaluator를 공개했습니다. 300개 이상의 스킬을 벤치마킹한 결과, 스킬 적용 시 에이전트의 정확도와 효율성이 대폭 향상됨을 확인했으며 이를 통해 에이전트 성능 최적화의 정량적 지표를 제공합니다.

CUDA 프로그래밍 시 공유 메모리의 뱅크 충돌은 심각한 성능 저하를 초래하며, 이를 해결하기 위해 기존의 패딩 방식 대신 스위즐링 기법을 사용할 수 있습니다. 이 기술은 XOR 연산을 통해 인덱스 매핑을 재구성함으로써 메모리 낭비 없이 데이터 접근 패턴을 최적화합니다.

NVIDIA ALCHEMI 툴킷은 AI 코딩 에이전트가 자연어를 기반으로 정교한 재료 시뮬레이션 코드를 생성할 수 있도록 API 패턴과 스킬을 제공합니다. 실험 결과, 에이전트는 물리적 정확도를 유지하면서도 GPU 가속 워크플로우를 성공적으로 구축할 수 있음을 입증했습니다.

AI 옵저버토리의 최신 연구에 따르면 사용자들이 작업 성격에 따라 특정 AI 모델을 선택적으로 활용하고 있음이 드러났습니다. 이와 함께 엔비디아의 OpenAI 데이터 센터 대규모 투자, 테슬라 로보택시 출시 임박 등 글로벌 테크 산업의 주요 변동 사항들이 보고되었습니다.

AI 칩 개발사 그로크가 엔비디아 GPU를 활용한 네오클라우드 및 데이터센터 사업자로 전환하기 위해 약 4,900억 원 규모의 투자를 유치했습니다. 이번 투자는 디스럽티브가 주도했으며 엔비디아도 참여하여, 핵심 인력 이탈 이후 사업 모델을 재편하려는 그로크의 전략적 움직임을 뒷받침합니다.

LG전자가 엔비디아와 협력하여 실제 환경 데이터와 가상 합성 데이터를 결합한 총 10만 시간 규모의 로봇 학습 데이터를 구축한다. 이를 통해 자체 로봇 파운데이션 모델(RFM)을 고도화하고, 내년 1분기에는 이족보행 휴머노이드 로봇을 공개할 계획이다.

젠슨 황 엔비디아 CEO는 소셜미디어를 통해 오픈AI의 대규모 데이터센터 구축 과정에서 발생한 순환 금융 논란을 일축했습니다. 그는 해당 프로젝트가 공급업체가 자금을 제공하고 고객이 다시 제품을 사는 방식이 아니라, 오픈에이아이(OpenAI)가 직접 임대료를 지불하는 구조라고 강조했습니다.

엔비디아가 오픈AI 및 SB에너지와 협력하여 미국 오하이오주에 대규모 AI 데이터센터 캠퍼스를 건설하기로 했습니다. 이번 프로젝트에서 엔비디아는 AI 칩과 네트워크 장비를 독점 공급하며, 최대 8GW 규모의 컴퓨팅 용량 확보를 목표로 합니다.

반도체 대형주의 강세에 힘입어 코스피가 7100선을 돌파하며 상승 출발했습니다. 엔비디아의 대규모 데이터센터 투자 보증과 주요 AI 인프라 기업들의 호실적이 글로벌 반도체 시장의 투자 심리를 개선시킨 것이 주요 원인입니다.

오픈AI가 소프트뱅크 계열사 SB에너지와 미국 오하이토주에 20년 장기 계약으로 10GW 규모의 데이터센터를 구축합니다. 이번 프로젝트에는 엔비디아가 최대 1,050억 달러 규모의 금융 보증과 독점적 칩 공급권을 대가로 참여하여 AI 인프라 확보를 위한 기업 간 공동 투자 모델을 보여줍니다.

캐스트롤(Castrol)의 차세대 냉각유인 Castrol ON PG25와 PG25T가 엔비디아의 AI 팩토리 및 데이터 센터 인프라 표준을 통과하며 기술력을 인정받았습니다. 이번 검증은 고성능 컴퓨팅 환경에서 발생하는 막대한 열을 관리하기 위한 액체 냉각 기술의 중요성을 시사하며, 데이터 센터의 물 사용 효율(WUE) 개선에도 기여할 것으로 기대됩니다.

오픈AI가 소프트뱅크 산하 SB 에너지와 오하이오주에 10GW 규모의 대규모 데이터센터 임대 계약을 체결했습니다. 이번 프로젝트는 엔비디아의 자금 지원과 칩 독점 공급이 결합된 형태로, AI 연산 자원 확보를 위한 빅테크 간의 복잡하고 거대한 인프라 구축 사례로 평가받습니다.

NVIDIA는 Model Optimizer를 활용한 QAD(Quantization-Aware Distillation) 파이프라인을 통해 Nemotron 3.5 Lightning 모델의 NVFP4 체크포인트를 개발했습니다. 이 방식은 PTQ보다 공격적인 양자화를 가능하게 하여 모델 크기를 1/3로 줄이고 추론 성능을 최대 4배 향상시켰습니다.

NVIDIA Nemotron 3.5 Lightning은 고빈도 에이전트 작업에 최적화된 하이브리드 MoE 구조의 오픈 모델로, Amazon SageMaker JumpStart를 통해 손쉽게 배포할 수 있습니다. 이 모델은 30B 파라미터 중 3B만 활성화하여 높은 처리량과 빠른 속도를 제공하며, 대규모 에이전트 시스템 구축 시 비용과 지연 시간을 획기적으로 줄여줍니다.

Groq는 자체 LPU 칩 개발 중심에서 엔비디아 GPU 기반의 AI 인프라 서비스(Neocloud)로 사업 방향을 전환하며 3억 5천만 달러의 투자를 유치했습니다. 이번 투자로 기업 가치는 35억 달러로 평가받았으며, 확보된 자금은 글로벌 데이터 센터 확장과 엔비디아 가속 컴퓨팅 클러스터 제공에 사용될 예정입니다.