엔비디아가 HBM을 줄인다?

 엔비디아가 HBM을 줄인다?

AI 반도체의 ‘메모리 전쟁’이 시작됐다

AI 반도체 시장에서 이상한 일이 벌어지고 있습니다.

HBM을 가장 많이 필요로 하던 엔비디아가 오히려 HBM을 줄이는 방안을 검토하고 있습니다.

AI가 발전할수록 메모리가 더 필요할 것 같은데, 왜 거꾸로 가는 걸까요?

답은 간단합니다.

HBM이 너무 비싸졌기 때문입니다.

 

HBM 가격이 AI의 발목을 잡기 시작했다

엔비디아의 차세대 Rubin Ultra에는 당초 1TB급 HBM 구성이 거론됐습니다.

그런데 최근에는 192GB~256GB 수준의 낮은 HBM 구성까지 검토되는 것으로 알려졌습니다.

만약 1TB에서 192GB로 줄어든다면 무려 81% 감소입니다.

물론 아직 최종 제품 사양은 확정되지 않았습니다.

하지만 중요한 건 숫자가 아닙니다.

엔비디아조차 ‘HBM을 얼마나 많이 넣을 것인가’보다 ‘얼마나 효율적으로 사용할 것인가’를 고민하기 시작했다는 사실입니다.

 

왜 이렇게까지 됐을까?

AI 서버에서 메모리가 차지하는 비용이 폭발하고 있기 때문입니다.

Morgan Stanley 분석에 따르면 차세대 AI 시스템에서는 메모리 비용이 전체 원가에서 25% 이상을 차지할 수 있는 것으로 추정됩니다.

HBM 가격이 계속 올라가면 결국 AI 데이터센터 구축비가 증가하고,

AI를 만들고 싶은 기업들이 비용 때문에 투자를 줄이는 상황까지 발생할 수 있습니다.

그래서 엔비디아 입장에서는 선택지가 생깁니다.

“HBM을 무조건 많이 넣는 대신, 적은 메모리로 더 많은 AI를 돌릴 수 없을까?”

 

이것이 반도체 산업을 바꿀 수 있다

지금까지 AI 반도체 경쟁은 사실상

GPU 확보 → HBM 확보

의 싸움이었습니다.

하지만 이제 병목은 GPU 하나가 아닙니다.

HBM → 첨단 패키징 → 전력 → 네트워크 → 인터커넥트

전체가 하나의 전쟁터가 되고 있습니다.

따라서 앞으로는

“누가 HBM을 가장 많이 만드는가”

보다

“누가 제한된 메모리로 가장 많은 AI를 처리하는가”

가 중요해질 수 있습니다.

🇰🇷 그래서 한국 반도체가 더 중요해진다

이 변화가 곧바로 SK하이닉스나 삼성전자에 악재라는 뜻은 아닙니다.

오히려 AI용 HBM 수요가 워낙 강하기 때문에 SK하이닉스는 대규모 생산시설 증설에 나서고 있습니다.

하지만 동시에 새로운 과제가 생겼습니다.

HBM을 많이 생산하는 것만으로는 부족해질 수 있다는 것입니다.

 

앞으로는

HBM의 용량과 가격,

더 높은 대역폭,

첨단 패키징,

광통신과 인터커넥트,

그리고 AI 메모리 효율까지

모두 중요해집니다.

 

진짜 중요한 것은 ‘HBM 다이어트’가 아니다

이번 사건의 진짜 의미는 엔비디아가 메모리를 줄인다는 것이 아닙니다.

AI 반도체가 다음 단계로 넘어가고 있다는 신호라는 것입니다.

초기 AI 시대가

“GPU를 얼마나 많이 확보하느냐”

의 싸움이었다면,

이제는

“제한된 GPU·HBM·전력으로 얼마나 많은 AI를 돌리느냐”

의 싸움으로 바뀌고 있습니다.

결국 다음 반도체 전쟁의 승자는

가장 많은 메모리를 만드는 회사가 아니라,
가장 적은 자원으로 가장 강력한 AI를 만들어내는 회사

가 될지도 모릅니다.