"HBM 시대는 끝나는 걸까?" 중국의 추격, 애플의 선택, 그리고 AI 메모리 시장의 진짜 변화

최근 SK하이닉스를 비롯한 국내 반도체 주가가 예전만큼 강한 모습을 보여주지 못하고 있습니다.

AI 시대는 이제 막 시작됐는데 왜 시장은 오히려 걱정하는 걸까요?

최근 일어난 여러 뉴스를 하나로 연결해 보면 그 이유를 조금은 이해할 수 있습니다.

AI는 '학습'에서 '추론'의 시대로 이동하고 있다.

 

AI는 크게 두 단계로 나뉩니다.

① 학습(Training)

GPT 같은 거대한 AI 모델을 만드는 과정입니다.

엄청난 데이터를 읽고 계산하기 때문에 GPU와 HBM(고대역폭 메모리)이 절대적으로 중요합니다.

② 추론(Inference)

이미 학습된 AI가 실제 사용자에게 답변을 하는 단계입니다.

우리가 ChatGPT를 사용하는 것도 모두 추론입니다.

 

과거에는

"추론은 HBM을 많이 사용하지 않는다."

라는 말이 어느 정도 맞았습니다.

하지만 지금은 상황이 달라지고 있습니다.

추론 AI도 점점 무거워지고 있다.

최신 AI는 단순히 질문에 답만 하지 않습니다.

질문을 이해하고,

검색하고,

추론하고,

도구를 사용하고,

다시 생각한 뒤 답변합니다.

 

여기에

• 음성
• 영상
• 이미지
• 센서 데이터
• 로봇 제어

까지 더해지는 멀티모달 AI 시대가 시작되고 있습니다.

 

즉,

추론도 이제는 상당한 메모리 성능을 요구합니다.

그런데 왜 HBM 시대가 끝난다는 이야기가 나올까?

정확히 말하면

HBM이 필요 없어지는 것이 아닙니다.

대신

HBM 하나만으로 성능을 높이는 시대에서

시스템 전체를 최적화하는 시대로 바뀌고 있습니다.

최근 AI 업계가 중요하게 보는 기술은

• HBM
• SRAM(Cache)
• KV Cache
• CXL 메모리
• 소프트웨어 최적화

입니다.

 

예전에는 GPU가 계속 HBM을 오가며 계산했다면,

이제는 캐시에 데이터를 오래 보관하거나 KV Cache를 효율적으로 관리해 같은 일을 더 적은 메모리 접근으로 처리하려고 합니다.

즉,

HBM은 여전히 핵심이지만, 혼자만의 시대는 조금씩 끝나가고 있습니다.

그렇다면 HBM 수요는 줄어드는 걸까?

여기서 가장 큰 오해가 있습니다.

GPU 한 장당 필요한 HBM 증가 속도는 둔화될 수 있습니다.

하지만 AI 사용량은 오히려 폭발적으로 증가하고 있습니다.

• AI 에이전트
• 피지컬 AI
• 자율주행
• 휴머노이드
• 스마트 공장

이런 산업이 본격적으로 성장하면

GPU 자체의 수요가 크게 증가할 가능성이 높습니다.

즉

GPU 한 장당 HBM은 조금 덜 늘어날 수 있지만

전체 GPU가 더 많이 팔리면서 HBM 총수요는 계속 증가할 수도 있습니다.

 

중국 CXMT IPO가 의미하는 것

최근 중국 DRAM 업체 CXMT(창신메모리)가 대형 IPO를 추진하면서 시장의 관심이 집중되고 있습니다.

많은 투자자들이

"HBM보다 이 뉴스가 더 무서운 것 아니냐"

라는 이야기를 합니다.

이유는 간단합니다.

 

예전에는

• 삼성전자
• SK하이닉스
• 마이크론

3강 체제였습니다.

 

하지만 이제는 중국도 정부의 막대한 지원을 바탕으로 DRAM 시장에 본격적으로 도전하고 있습니다.

아직 HBM에서는 격차가 있지만,

범용 DRAM에서는 존재감을 키우고 있습니다.

주식시장은 항상 미래를 먼저 반영합니다.

 

그래서 투자자들은

"3~5년 뒤에도 한국 메모리가 지금처럼 독점적인 프리미엄을 받을 수 있을까?"

를 고민하기 시작했습니다.

애플이 선택한 것은 OpenAI가 아니라 알리바바였다.

 

최근 또 하나 중요한 뉴스가 나왔습니다.

애플은 중국에서 Apple Intelligence 서비스를 제공하기 위해

알리바바의 AI 모델(Qwen)을 채택했습니다.

많은 분들이

"애플이 알리바바 칩을 쓰는 줄 알았다"

고 생각하지만,

정확히는 알리바바의 AI 모델을 사용하는 것입니다.

 

이 뉴스가 중요한 이유는

중국 AI 기술력이 글로벌 빅테크에게도 인정받기 시작했다는 상징성이 있기 때문입니다.

이는 앞으로

• 중국 AI 서버
• 중국 데이터센터
• 중국 AI 생태계

투자가 더욱 확대될 가능성을 의미합니다.

 

동시에 투자자들은

"중국은 AI도 만들고, 메모리도 만들고, 생태계까지 구축하는 것 아니냐"

라는 장기적인 우려도 하기 시작했습니다.

 

최근 SK하이닉스 주가가 흔들리는 이유

최근 시장은 여러 가지를 동시에 반영하고 있습니다.

✔ 추론 AI 시대의 효율화

✔ HBM 독주 시대의 변화

✔ SRAM과 KV Cache의 중요성 확대

✔ CXL 메모리 확산

✔ 중국 CXMT의 추격

✔ 애플과 알리바바 협력

이 모든 뉴스가 합쳐지면서

투자자들은

 

"HBM 성장률이 예전만큼 가파를까?"

를 고민하기 시작한 것입니다.

하지만 여기서 놓치면 안 되는 점

많은 사람들이

"HBM 시대 끝."

이라고 단순하게 해석합니다.

하지만 저는 그렇게 보지 않습니다.

AI는 이제 시작입니다.

 

AI 에이전트,

피지컬 AI,

휴머노이드,

자율주행,

스마트팩토리,

AI 데이터센터가 본격적으로 확대되면

메모리 수요 자체는 오히려 더 커질 가능성이 높습니다.

 

다만 앞으로는

HBM 하나만 잘 만든다고 끝나는 시대가 아니라

HBM,

SRAM,

CXL,

첨단 패키징,

AI 소프트웨어 최적화까지 함께 경쟁하는 시대가 될 가능성이 높습니다.

투자자가 주목해야 할 포인트

앞으로 반도체 산업은 단순히

 

"HBM을 얼마나 많이 만드느냐"

보다

"AI 시스템 전체를 얼마나 잘 구성하느냐"

가 더 중요한 시대가 될 것으로 보입니다.

즉,

 

HBM의 시대가 끝나는 것이 아니라,

HBM 중심의 독주 시대에서 AI 메모리 생태계 경쟁 시대로 넘어가는 과도기에 들어섰다고 보는 것이 현재 시장을 가장 잘 설명하는 해석이라고 생각합니다.

 

개인적으로는

AI 혁명은 아직 끝나지 않았다고생각합니다.

다만 이제는 그 수혜가 한 기업이나 한 기술에만 집중되지 않고, AI 생태계 전체로 넓어지고 있다는 점을 투자자들도 함께 살펴볼 필요가 있습니다.