NVIDIA 뉴스

Llama 3, Mistral 등 오픈 웨이트 모델의 확산으로 개발 선택지가 넓어졌으나, 직접 호스팅 시 발생하는 GPU 확보 및 인프라 관리 부담은 매우 큽니다. 이를 해결하기 위해 표준화된 API를 통해 관리형 추론 서비스를 이용함으로써 운영 복잡성을 낮추고 핵심 기능 개발에 집중할 수 있습니다.

SK하이닉스가 엔비디아 등 주요 AI 기업들의 HBM 및 DRAM 수요 급증에 힘입어 뉴욕 증시에 상장하며 역대 최대 규모의 해외 기업 데뷔를 기록했습니다. 시가총액 1조 달러를 돌파한 이번 상장은 글로벌 메모리 부족 현상과 AI 데이터센터 확장이 가져온 강력한 모멘텀을 보여줍니다.

본 기사는 GPU 연산의 병목 현상인 메모리 트래픽과 커널 실행 오버헤드를 해결하기 위한 '커널 퓨전(Kernel Fusion)' 기술을 다룹니다. 여러 단계의 연산을 하나의 커널로 통합하여 중간 데이터를 레지스터에 유지함으로써 메모리 대역폭 사용량을 줄이고 성능을 높이는 구체적인 구현 방법을 제시합니다.

Amazon SageMaker AI가 NVIDIA Nemotron 3 Nano 및 Super 모델에 대해 인프라 관리 없이 미세 조정이 가능한 서버리스 커스터마이징 기능을 도입했습니다. Mamba-Transformer MoE 아키텍처를 기반으로 한 이 모델들은 높은 처리량과 효율성을 제공하며, 기업은 SFT, RLVR 등의 기술을 통해 자사 데이터에 최적화된 독자적인 AI 자산을 구축할 수 있습니다.

NVIDIA는 MMseqs2-GPU, cuEquivariance, Fold-CP 등을 통합한 BioNeMO 에이전트 툴킷을 통해 생체 분자 구조 예측 파이프라인의 병목 현상을 해결했습니다. 이를 통해 MSA 생성 속도를 최대 177배 높이고, GPU 메모리 한계를 극복하여 거대 단백질 복합체의 모델링 효율성을 극대화합니다.

메타는 오는 9월부터 자체 설계한 AI 데이터센터용 칩인 '아이록(Iris)'의 양산에 돌입합니다. 이는 내년 컴퓨팅 용량을 현재의 두 배인 14GW까지 확장하는 전략의 일환이며, 엔비디아와 AMD 등 외부 반도체 업체에 대한 의존도를 낮추는 것을 목표로 합니다.

중국의 주요 AI 기업인 딥시크와 즈푸가 미국의 첨단 GPU 수출 규제에 대응하여 자체적인 추론용 AI 반도체 개발에 나섰습니다. 이는 엔비디아의 최신 칩 확보 어려움과 화웨이 의존도를 동시에 탈피하려는 전략으로, 급증하는 AI 서비스 추론 수요를 자국 기술로 충당하려는 목적을 가집니다.

중국 정부가 알리바바, 바이트댄스, 딥시크 등 주요 AI 기업에 엔비디아 H200 칩의 일부 구매를 허용하는 방안을 검토 중입니다. 이는 급증하는 AI 추론 수요로 인한 연산 병목 현상을 완화하고 서비스 운영 효율을 높이기 위한 전략적 조치로 풀이됩니다.

금융 AI 연구의 한계인 데이터 불균형과 중복 문제를 해결하기 위해 NVIDIA NeMo를 활용한 반복적 합성 데이터 생성 파이프라인을 제안합니다. 이 방식은 생성, 필터링, 글로벌 중복 제거, 가중치 조정을 거쳐 13개 카테고리에 걸친 50만 개 이상의 고유한 금융 뉴스 헤드라인 데이터셋인 FinHeadlineMix를 성공적으로 구축했습니다.

파리의 AI 음성 스타트업 그라디움(Gradium)이 엔비디아를 포함한 투자자들로부터 총 1억 달러 규모의 시드 투자를 유치했습니다. 이들은 초저지연 오디오 기술을 통해 실시간 대화가 가능한 AI 모델을 개발 중이며, 확보된 자금으로 미국 베이 에어리어에 사무실을 열고 글로벌 인재 영입 및 시장 확대를 추진할 계획입니다.

엔비디아의 주가는 정점 대비 15% 하락했으며, 이는 GPU 공급 완화와 빅테크들의 자체 프로세서 도입으로 인한 연산 비용 하락 때문입니다. 반면 메모리 부족 현상이 심화되면서 마이크론과 같은 메모리 기업의 가치는 급등하며 AI 투자의 중심이 컴퓨팅에서 메모리로 이동하고 있습니다.

중국 정부가 알리바바, 바이트댄스, 딥시크 등 주요 AI 기업에 엔비디아 H200 칩의 제한적 구매를 승인할 계획입니다. 기업들은 구매 수량과 목적을 제출해 심사를 받아야 하며, 전체 승인 물량은 일정 규모로 제한될 전망입니다.

미국 내 4개의 마이크록로 원자로가 임계 상태에 도달하며 차세대 에너지 기술의 이정표를 세웠고, 중국은 자국 AI 기업의 엔비디아 H200 칩 구매를 허용할 계획입니다. 또한 NATO는 AI와 드론을 활용한 방어 네트워크 구축을 추진하며 글로벌 기술 지형이 급변하고 있습니다.

기가바이트는 4개의 노드를 연결하여 메모리 집약적인 AI 및 과학 컴퓨팅 작업을 처리하는 AI TOP ATOM 클러스터링 기술을 시연했습니다. 엔비디아와의 협력을 통해 반도체 패키징 연구용 분자 역학 시뮬레이션 규모를 기존 대비 3배 이상 확장하는 성과를 보여주었습니다.

인텔 Arc Pro B70 쿼드 구성이 엔비디아 RTX 5090D 대비 압도적인 추론 성능을 보여주며 하드웨어 비용 최적화의 새로운 가능성을 열었습니다. 동시에 스스로 판단하는 에이전틱 AI를 활용한 지능형 랜섬웨어 공격과 유럽의 규제 강화로 인한 LLM 도입 지연 등 보안 및 규제 측면의 새로운 위협이 가시화되고 있습니다.

스웨덴의 바이브 코딩 스타트업 러블럽이 기업 가치 132억 달러를 목표로 3억 달러 규모의 투자 유치를 추진하고 있습니다. 이 회사는 최근 연간 반복 매출(ARR) 5억 달러를 달성했으며, 엔비디아와 아사나 등 글로벌 대기업을 고객사로 확보하며 급성장 중입니다.

스페이스XCL은 코딩과 사무 자동화에 최적화된 신규 모델 '그록 4.5'를 출시하며, 클로드 오퍼스 4.8 대비 훨씬 저렴한 가격과 높은 토큰 효율성을 강조했습니다. 이 모델은 엔비디아 GB300 GPU와 정교하게 선별된 데이터를 활용해 학습되었으며, 터미널 환경 및 소프트웨어 엔지니어링 작업에서 경쟁력 있는 성능을 보여줍니다.

중국 당국이 알리바바, 바이트댄스, 딥시크 등 주요 기술 기업에 엔비디아의 AI 칩 'H200' 구매를 허가할 방침입니다. 다만 학습용으로만 사용해야 하며 민감 데이터 처리는 금지되는 등 엄격한 조건부 승인이 이루어질 예정입니다.

삼바노바는 엔비디아 H200과 자사의 SN50 RDU를 결합하여 MiniMax M2.7 모델에서 초당 763토큰이라는 압도적인 추론 속도를 기록했습니다. 이번 성과는 연산 집약적인 프리필(prefill) 단계와 메모리 대역폭 중심의 디코드(decode) 단계를 분리하는 이기종 컴퓨팅 전략을 통해 기존 GPU 인프라의 효율성을 극대화할 수 있음을 보여줍니다.

NVIDIA는 DGX B200 및 GB200 NVL72 환경에서 GPU 가속 Presto를 활용해 TPC-H 벤치마크 기준 CPU 클러스터 대비 최대 8배 낮은 지연 시간을 달성했음을 입증했습니다. cuDF, NVLink, GPUDirect Storage(GDS) 기술을 통해 데이터 전송 병목을 제거하고 대규모 분석 워크로드의 처리 속도를 혁신적으로 높였습니다.