NVIDIA 뉴스

미국 내 4개의 마이크록로 원자로가 임계 상태에 도달하며 차세대 에너지 기술의 이정표를 세웠고, 중국은 자국 AI 기업의 엔비디아 H200 칩 구매를 허용할 계획입니다. 또한 NATO는 AI와 드론을 활용한 방어 네트워크 구축을 추진하며 글로벌 기술 지형이 급변하고 있습니다.

기가바이트는 4개의 노드를 연결하여 메모리 집약적인 AI 및 과학 컴퓨팅 작업을 처리하는 AI TOP ATOM 클러스터링 기술을 시연했습니다. 엔비디아와의 협력을 통해 반도체 패키징 연구용 분자 역학 시뮬레이션 규모를 기존 대비 3배 이상 확장하는 성과를 보여주었습니다.

한국 정부는 2035년까지 18.4GW 규모의 AI 데이터센터(AIDC)를 건설하여 글로벌 'AI 토큰' 생산 거점을 확보하려는 메가프로젝트를 추진 중입니다. 이를 위해 단순한 인프라 구축을 넘어, 실시간 데이터 처리를 뒷받침할 초연결 네트워크 기술과 통신사의 고도화된 역할이 필수적이라는 분석입니다.

인텔 Arc Pro B70 쿼드 구성이 엔비디아 RTX 5090D 대비 압도적인 추론 성능을 보여주며 하드웨어 비용 최적화의 새로운 가능성을 열었습니다. 동시에 스스로 판단하는 에이전틱 AI를 활용한 지능형 랜섬웨어 공격과 유럽의 규제 강화로 인한 LLM 도입 지연 등 보안 및 규제 측면의 새로운 위협이 가시화되고 있습니다.

스웨덴의 바이브 코딩 스타트업 러블럽이 기업 가치 132억 달러를 목표로 3억 달러 규모의 투자 유치를 추진하고 있습니다. 이 회사는 최근 연간 반복 매출(ARR) 5억 달러를 달성했으며, 엔비디아와 아사나 등 글로벌 대기업을 고객사로 확보하며 급성장 중입니다.

스페이스XCL은 코딩과 사무 자동화에 최적화된 신규 모델 '그록 4.5'를 출시하며, 클로드 오퍼스 4.8 대비 훨씬 저렴한 가격과 높은 토큰 효율성을 강조했습니다. 이 모델은 엔비디아 GB300 GPU와 정교하게 선별된 데이터를 활용해 학습되었으며, 터미널 환경 및 소프트웨어 엔지니어링 작업에서 경쟁력 있는 성능을 보여줍니다.

중국 당국이 알리바바, 바이트댄스, 딥시크 등 주요 기술 기업에 엔비디아의 AI 칩 'H200' 구매를 허가할 방침입니다. 다만 학습용으로만 사용해야 하며 민감 데이터 처리는 금지되는 등 엄격한 조건부 승인이 이루어질 예정입니다.

삼바노바는 엔비디아 H200과 자사의 SN50 RDU를 결합하여 MiniMax M2.7 모델에서 초당 763토큰이라는 압도적인 추론 속도를 기록했습니다. 이번 성과는 연산 집약적인 프리필(prefill) 단계와 메모리 대역폭 중심의 디코드(decode) 단계를 분리하는 이기종 컴퓨팅 전략을 통해 기존 GPU 인프라의 효율성을 극대화할 수 있음을 보여줍니다.

NVIDIA는 DGX B200 및 GB200 NVL72 환경에서 GPU 가속 Presto를 활용해 TPC-H 벤치마크 기준 CPU 클러스터 대비 최대 8배 낮은 지연 시간을 달성했음을 입증했습니다. cuDF, NVLink, GPUDirect Storage(GDS) 기술을 통해 데이터 전송 병목을 제거하고 대규모 분석 워크로드의 처리 속도를 혁신적으로 높였습니다.

본 기사는 파인튜닝의 높은 비용과 복잡성을 피하기 위해 LangChain의 에이전트 하니스 프로필을 활용하여 모델의 정확도를 개선하는 '하니스 엔지니어링' 기술을 소개합니다. 프롬프트 수정, 미들웨어 추가 등을 통해 오픈 소스 모델의 성능을 최적화하고 자동화된 루프를 통해 지속적으로 개선하는 프로세스를 다룹니다.

중국의 대표적인 AI 기업인 딥시크와 지푸 AI가 엔비디아 및 화웨이 등 외부 공급업체에 대한 의존도를 줄이기 위해 자체 AI 반도체 개발을 추진하고 있습니다. 특히 딥시크는 모델 학습이 아닌 서비스 단계의 추론(Inference) 연산에 특화된 프로세서를 설계하며 인프라 확보 전략을 강화하고 있습니다.

삼성전자가 엔비디아의 차세대 AI 가속기 '베라 루빈'에 탑재될 PCIe 6.0 기반 eSSD인 PM1763의 양산을 시작했습니다. 이 제품은 기존 대비 데이터 전송 대역폭을 2배로 높여 AI 학습 및 추론 과정에서의 병목 현상을 방지하는 데 최적화되어 있습니다.

프랑스의 ZML은 특정 칩에 국한되지 않고 다양한 하드웨어에서 오픈소스 LLM의 추론 성능을 최적화하는 'ZML/LLMD'를 출시했습니다. 이 소프트웨어는 엔비디아뿐만 아니라 AMD, 구글 TPU, 애플 메탈 등 여러 가속기에서 최대 속도를 구현하여 AI 인프라 구축 비용 절감과 하드웨어 선택권 확대를 목표로 합니다.

리얼월드가 AWS에서 자동차 및 스마트 제조 전략을 이끌었던 카르틱 크리슈나무르티를 글로벌 GTM 총괄로 영입했습니다. 이를 통해 엔비디아 아이작 등 글로벌 플랫폼과 연계하여 북미와 유럽의 포춘 500대 기업을 대상으로 피지컬 AI 상용화 전략을 본격 추진할 계획입니다.

딥시크는 미국의 수출 규제로 인한 엔비디아 칩 확보의 어려움과 화웨이 생태계에 대한 종속 문제를 해결하고자 자체 추론용 AI 칩 개발을 추진 중입니다. 이는 모델 훈련보다는 비용 효율성이 중요한 추론 단계의 워크로드를 최적화하여 서비스 경쟁력을 극대화하려는 전략입니다.