AMD, AI 에너지 효율 개선 목표에 한 걸음 더 다가서다

(theregister.com)

AMD가 AI 연산 효율성을 극대화하기 위해 랙 단위의 통합 컴퓨팅 플랫폼인 '헬리오스(Helios)'를 공개하며, 2024년 대비 4배 높은 에너지 효율을 달성하고 향후 10년 내 20배 개선이라는 공격적인 목표를 제시했습니다.

이 글의 핵심 포인트

1AMD는 2026년 기준 자사 시스템이 2024년 대비 4배 더 효율적이라고 주장함
2새로운 랙 스케일 컴퓨팅 플랫폼 '헬리오스(Helios)'는 72개의 MI455X GPU를 하나의 시스템으로 통합함
3MI455X는 이전 세대인 MI300X 대비 최대 15.4배 높은 부동 소수점 성능과 4배 빠른 인터커넥트 대역폭을 제공함
4AMD의 효율성 계산 방식은 실제 애플리케이션 성능이 아닌 FLOPS, 메모리, 대역폭을 가중치로 활용한 추정치임
5AMD는 2030년까지 랙 단위의 에너지 효율성을 현재보다 20배까지 높이는 것을 목표로 함

이 글에 대한 공공지능 분석

왜 중요한가?

AI 모델 규모가 급격히 커짐에 따라 데이터센터의 전력 소모 문제가 산업 전체의 병목 현상으로 부상하고 있으며, AMD의 에너지 효율 개선은 AI 인프라 운영 비용(OPEX) 절감의 핵심 열쇠입니다.

어떤 배경과 맥락이 있나?

엔비디아가 Blackwell 기반 랙 스케일 시스템을 선보이며 시장을 선도하는 가운데, AMD 역시 단순한 칩 성능 경쟁을 넘어 메모리 대역폭과 인터커넥트 속도를 최적화한 통합 플랫폼 전략으로 맞서고 있습니다.

업계에 어떤 영향을 주나?

GPU 중심의 서버 구조가 랙 단위의 거대 컴퓨팅 유닛으로 전환됨에 따라, AI 인프라를 구축하는 기업들은 개별 칩의 성능보다 시스템 전체의 전력 밀도와 확장성을 고려한 설계 능력을 갖춰야 합니다.

한국 시장에 어떤 시사점이 있나?

대규모 언어 모델(LLM)을 개발하는 국내 AI 스타트업들에게는 하드웨어 비용 효율성이 곧 생존 문제이므로, AMD와 같은 고효율 랙 스케일 인프라 도입 시의 TCO(총 소유 비용) 변화를 면밀히 주시해야 합니다.

이 글에 대한 큐레이터 의견

AMD의 이번 발표는 단순한 성능 향상을 넘어 '전력 대비 성능(Performance per Watt)'이라는 AI 산업의 가장 아픈 곳을 정조로준하고 있습니다. 칩 하나하나의 연산 속도 경쟁에서 벗어나, 랙 전체를 하나의 거대한 컴퓨터로 취급하는 'Rack-scale' 전략은 엔비디아의 독주를 견제할 수 있는 실질적인 기술적 돌파구입니다.

다만, AMD가 제시한 효율성 지표가 실제 애플리케이션의 워크로드 성능이 아닌 FLOPS와 대역폭을 가중치로 계산한 추정치라는 점은 주의 깊게 살펴봐야 합니다. 즉, 이론적 수치는 높지만 실제 모델 학습이나 추론 시 체감되는 비용 절감 효과는 기대에 못 미칠 리스크가 존재합니다. 따라서 스타트업 창업자들은 벤치마크 수치에 매몰되기보다, 실제 서비스 운영 환경에서의 실질적인 경제성을 검증하는 냉철한 접근이 필요합니다.

원문 보기 →