엔비디아, 루빈 울트라 HBM 사양 하향 검토
"메모리 수급이 AI 가속기 최종 스펙 좌우"
날이 갈수록 치열해지는 글로벌 인공지능(AI) 성능 경쟁 속에서 뜻밖의 기현상이 벌어지고 있다. 세계 최정상 AI 가속기 제조사들이 잇달아 차세대 신제품의 메모리 스펙을 오히려 낮추는 일명 '디스펙(Despec)' 전략 검토에 나선 것이다. 메모리 품귀 현상이 심화하면서 메모리의 물리적 수급량이 AI 반도체의 최종 스펙을 결정하는 시대로 패러다임이 전환되고 있다는 분석이 나온다.
8일 업계에 따르면 엔비디아는 초기 구상했던 차세대 AI 가속기 '루빈 울트라'의 고대역폭메모리(HBM) 탑재 사양을 16단 HBM4E에서 12단으로 하향 조정한 데 이어 최근 8단 HBM4E, 전작인 8·12단 HBM4를 채용하는 방안까지 검토하고 있다. AMD 역시 차세대 가속기 MI400을 HBM4 8단과 12단 버전으로 병행 출시할 가능성이 높은 것으로 알려졌다.
그동안 AI 반도체 시장은 '더 넓은 대역폭'과 '더 높은 적층 단수'를 자랑하는 치열한 스펙 경쟁이 기본 공식이었다. 엔비디아 역시 지난해부터 올해 상반기까지만 해도 루빈 울트라의 기본 설계로 12단 HBM4E 채용을 고수해 왔다.
그러나 최근 글로벌 메모리 반도체 시장의 공급 부족 현상이 최첨단 HBM 영역까지 깊게 침투하면서 상황이 급반전했다. 아무리 성능이 뛰어난 그래픽처리장치(GPU)를 설계하더라도 이에 탑재할 HBM 다이의 절대적인 물량이 턱없이 부족해 제품 출하 자체가 막히는 병목 현상에 직면했기 때문이다. 이에 글로벌 빅테크(대형 정보기술 기업)들이 성능을 일부 타협하더라도 제품 공급량을 최대한 끌어올리는 방향으로 노선을 선회하고 있는 것으로 풀이된다.
시장조사업체 트렌드포스는 "내년에도 D램 공급 부족으로 인해 메모리 업체들이 HBM에 할당할 수 있는 웨이퍼 캐파 자체가 제한적인 상황"이라며 "여기에 12단 HBM4E의 검증 일정 및 수율 램프업(양산 증대) 불확실성까지 맞물려 주요 AI 칩 생태계가 메모리 사양 하향 조정에 돌입했다"고 분석했다.
엔비디아의 고민은 기술적 대역폭과 GPU 출하량 사이의 정교한 셈법에 있다. 만약 12단 HBM4E 검증이 제때 완료돼 양산에 성공할 경우 루빈 울트라의 입출력(I/O) 속도는 이전 세대(8~11.7Gbps)를 크게 뛰어넘는 14~16Gbps 수준을 노릴 수 있다. 반면 대안으로 HBM4 설계를 최적화하는 방향으로 눈높이를 낮출 경우 I/O 속도는 11~12Gbps 수준에 머물게 된다.
그런데도 사양 축소가 유력하게 검토되는 이유는 GPU당 HBM 적층 단수를 줄일수록 시장에 풀 수 있는 총 GPU 출하량이 급증하기 때문이다.
손인준 유진투자증권 연구원은 "적층 단수 하향은 제한된 HBM 공급으로 최대한 많은 가속기를 생산하기 위한 현실적인 선택"이라며 "똑같은 양의 D램 재료를 투입했을 때 16단 대신 12단으로 쌓으면 HBM 생산량이 약 33% 늘어나고, 12단에서 8단으로 낮추면 약 50% 증가한다"고 설명했다. 여기에 층수가 낮아질수록 제조 불량률(수율)이 줄어들고 공정 시간(리드타임)까지 단축되는 효과도 있다.
메모리 수급난으로 인한 '디스펙' 움직임은 HBM을 넘어 AI 인프라 전체로 확산하는 분위기다. 트렌드포스에 따르면 주요 클라우드 서비스 제공업체(CSP)들과 서버 주문자위탁생산(OEM)사들은 이미 올해 상반기 서버 구성에서 D램 모듈(RDIMM) 채용 용량을 줄였다. 지난 6월엔 글로벌 반도체 리서치 업체 세미애널리시스 보고서를 통해 엔비디아가 차기 AI 컴퓨팅 플랫폼 '베라 루빈 NVL72'의 저전력 D램 LPDDR5X 탑재량을 54TB에서 27TB로 50% 감축한다는 소식이 전해지기도 했다.
이에 메모리 '빅3'(삼성전자·SK하이닉스·마이크론)가 잇달아 생산 시설 완공 일정을 앞당기고 설비투자 확대를 발표했지만 당장 내년에 메모리 공급 부족은 올해보다 심화할 것이란 전망이 우세하다. 이는 현재 진행 중인 내년 HBM 가격 협상에서 메모리 공급사들의 가격 결정력을 한층 더 끌어올리는 요인으로, 실적에도 훈풍으로 작용할 것으로 기대된다.
김재준 삼성전자 메모리전략마케팅실장 부사장은 최근 2분기 실적 발표 콘퍼런스콜에서 "올해 3분기 HBM4 매출은 전 분기 대비 3배 이상 확대될 것으로 전망한다"며 "올해 하반기 기준 HBM4 매출이 삼성전자 전체 HBM 매출의 60%를 넉넉히 상회할 것으로 보인다"고 말하기도 했다. 올해 하반기 중으로 삼성전자의 HBM 시장 점유율을 D램 시장 점유율과 유사한 수준까지 끌어올리겠다는 구상이다.
손 연구원은 "선단 파운드리와 첨단 패키징 캐파가 확대되는 속도를 HBM 공급이 따라가지 못하면서 AI 가속기 업체들의 메모리 확보 경쟁이 심화하고 있다"며 내년 삼성전자와 SK하이닉스의 HBM 영업이익을 전년 대비 각각 539%, 286% 폭증한 85조원, 89조원으로 추산했다.
업계 관계자는 "그동안 GPU나 프로세서의 연산 속도가 메모리 채용을 끌어당겼다면, 이제는 메모리의 물리적 수급량이 AI 반도체의 최종 스펙을 결정하는 시대로 주도권이 이동하고 있다"고 평가했다.