AI 산업은 이제 더 빠른 반도체를 만드는 경쟁을 넘어, 같은 성능을 얼마나 저렴하게 제공할 수 있는지를 고민하기 시작했습니다.
최근 인텔과 퀄컴이 공개한 AI 추론용 반도체는 이러한 변화를 잘 보여줍니다.
두 기업의 공통점은 기존 고성능 AI GPU의 핵심 부품으로 여겨졌던 HBM(고대역폭 메모리) 대신 LPDDR 계열 메모리를 선택했다는 점입니다.
그렇다면 AI 반도체 시장에서 HBM의 중요성이 낮아지고 있는 걸까요?
결론부터 말하면 그렇지는 않습니다.
오히려 AI 반도체 시장이 서로 다른 성능과 비용을 요구하는 여러 영역으로 분화되고 있다는 의미에 가깝습니다.
1. 인텔과 퀄컴, 왜 HBM을 선택하지 않았을까?
2026년 10월 12일, 인텔은 AI 추론을 겨냥한 GPU D시리즈의 세부 사양을 공개했습니다.
코드명은 크레센트 아일랜드(Crescent Island), 제품은 D270입니다.
주요 특징은 다음과 같습니다.
- 인텔 자체 카드: LPDDR5X 160GB
- 협력사 설계 제품: 최대 480GB
- 메모리 대역폭: 1.5TB/s
- 소비전력 설계: 350W
- 기존 PCIe 기반 서버 인프라 활용 가능
퀄컴 역시 AI200 추론 가속기를 통해 카드당 최대 768GB의 LPDDR 메모리를 지원한다고 발표했습니다.
두 회사 모두 대규모 AI 추론을 처리하면서 메모리 용량과 비용, 전력 효율을 확보하려는 전략을 선택한 것입니다.
이것은 단순한 부품 교체가 아닙니다.
AI 반도체의 경쟁 기준이 최고 성능에서 실제 서비스 운영의 경제성으로 확장되고 있다는 신호입니다.
2. HBM과 LPDDR, 무엇이 다를까?
쉽게 비유하면 HBM은 빠른 고속도로이고, LPDDR은 상대적으로 저렴하게 확장할 수 있는 대형 창고에 가깝습니다.
HBM은 데이터를 빠르게 공급할 수 있는 메모리입니다.
GPU가 엄청난 속도로 연산하더라도 메모리가 필요한 데이터를 제때 전달하지 못하면 GPU는 기다릴 수밖에 없습니다.
따라서 초거대 AI 모델 학습이나 높은 처리량을 요구하는 추론에서는 HBM이 매우 중요합니다.
반면 LPDDR은 HBM보다 대역폭이 낮지만, 상대적으로 낮은 비용으로 대용량 메모리를 구성하는 데 유리합니다.
특히 거대한 AI 모델을 메모리에 저장해 두고 운영해야 하는 환경에서는 이러한 장점이 부각될 수 있습니다.
물론 LPDDR이 모든 추론 작업에서 유리한 것은 아닙니다.
응답 속도와 동시 처리량이 중요한 서비스에서는 HBM의 높은 대역폭이 여전히 큰 경쟁력입니다.
결국 중요한 것은 어떤 메모리가 더 우수한지가 아니라, 어떤 AI 작업에 어떤 메모리가 경제적으로 적합한가입니다.
3. AI 산업은 학습 경쟁에서 추론 효율화 경쟁으로 확대되고 있다
AI 산업 초기에는 더 큰 모델을 만들고 더 높은 성능을 달성하는 것이 핵심이었습니다.
이를 위해 기업들은 막대한 자금을 투입해 GPU와 HBM을 확보했습니다.
그러나 AI가 실제 산업에 활용되기 시작하면서 새로운 문제가 등장했습니다.
AI 서비스는 매일 수많은 사용자의 질문에 답하고, 문서를 분석하고, 코드를 작성해야 합니다.
이 과정에서는 성능뿐 아니라 서비스 운영 비용이 중요해집니다.
예를 들어 동일한 품질의 AI 응답을 제공하는 데 드는 비용을 절반으로 낮출 수 있다면, 기업의 수익성은 크게 개선될 가능성이 있습니다.
이러한 변화는 여러 기술을 통해 나타나고 있습니다.
- MoE: 질문에 필요한 일부 전문가 네트워크만 활성화해 계산량 절감
- 양자화: 모델의 수치 정밀도를 낮춰 메모리 사용량과 연산 부담 감소
- 추론 최적화: 같은 하드웨어로 더 많은 요청 처리
- 메모리 구조 개선: 용도에 맞는 메모리 사용으로 비용 절감
인텔과 퀄컴의 LPDDR 전략 역시 이러한 흐름의 일부입니다.
AI 시장은 이제 얼마나 강력한 모델을 만들 수 있는지를 넘어, 얼마나 저렴하게 AI를 운영할 수 있는가를 경쟁하기 시작했습니다.
4. 그렇다면 HBM의 시대는 끝나는 것일까?
그렇지 않습니다.
오히려 AI 시장이 성장할수록 HBM이 필요한 영역 역시 확대될 수 있습니다.
초거대 모델 학습, 고속 추론, 대규모 동시 사용자 처리에서는 여전히 높은 메모리 대역폭이 중요합니다.
HBM을 활용하는 고성능 AI 가속기는 이러한 분야에서 핵심적인 역할을 계속할 가능성이 높습니다.
다만 모든 AI 서비스가 최고급 GPU와 HBM을 필요로 하지는 않을 것입니다.
고성능을 우선하는 시장과 비용 효율을 우선하는 시장이 함께 성장할 가능성이 있습니다.
즉, HBM을 LPDDR이 완전히 대체하는 것이 아니라, AI 반도체 시장이 세분화되는 과정으로 보는 것이 합리적입니다.
이 과정에서 일부 HBM 수요가 LPDDR 기반 제품으로 이동할 가능성은 있습니다.
하지만 그것이 곧 HBM 전체 수요의 감소를 의미하는 것은 아닙니다.
5. 삼성전자와 SK하이닉스에 미치는 영향
이러한 변화는 국내 메모리 반도체 기업들에도 중요한 의미를 가집니다.
삼성전자와 SK하이닉스는 HBM뿐 아니라 LPDDR 계열 메모리도 생산하고 있습니다.
따라서 AI 추론 시장에서 LPDDR 수요가 확대된다면 새로운 매출 기회가 생길 수 있습니다.
반면 HBM 대신 상대적으로 저렴한 메모리를 사용하는 AI 반도체가 확산된다면, 일부 시장에서는 HBM의 가격 협상력과 수익성에 압박이 나타날 수도 있습니다.
여기서 주목할 점이 있습니다.
HBM의 기술적 중요성과 HBM 사업의 수익성은 반드시 같은 방향으로 움직이지 않는다는 것입니다.
HBM이 여전히 필수적인 기술이더라도 경쟁 업체의 생산능력이 확대되고 공급이 증가하면 가격과 이익률은 달라질 수 있습니다.
반대로 LPDDR 제품은 단가가 낮더라도 데이터센터 시장의 새로운 수요를 통해 전체 메모리 판매량을 확대할 가능성이 있습니다.
따라서 투자자는 단순히 HBM의 수요 증가만을 볼 것이 아니라 다음을 함께 살펴봐야 합니다.
- HBM 출하량과 공급 증가 속도
- HBM 가격과 영업이익률 변화
- 데이터센터용 LPDDR 수요 확대
- AI 추론 비용 하락과 실제 AI 서비스 사용량 증가
- 빅테크 기업들의 데이터센터 설비투자 대비 수익성
6. 효율화는 반도체 수요 감소로 이어질까?
반드시 그렇지는 않습니다.
경제학에는 '제번스의 역설(Jevons Paradox)'이라는 개념이 있습니다.
어떤 기술의 효율이 높아져 사용 비용이 낮아지면, 오히려 전체 소비량이 증가할 수 있다는 것입니다.
AI에서도 비슷한 현상이 나타날 가능성이 있습니다.
예를 들어 AI 추론 비용이 80% 감소하면 기존에 비용 때문에 AI를 도입하지 못했던 기업들도 서비스를 사용하기 시작할 수 있습니다.
그 결과 개별 작업에 필요한 반도체 자원은 줄어들더라도 전체 AI 사용량이 더 빠르게 증가할 수 있습니다.
반대로 AI 효율화 속도가 실제 수요 증가 속도보다 빠르다면, 데이터센터 설비 확장 속도가 둔화될 가능성도 있습니다.
따라서 AI 효율화가 반도체 산업에 무조건 호재이거나 악재라고 판단하기는 어렵습니다.
중요한 것은 효율 개선으로 절약되는 비용보다 신규 수요가 얼마나 더 크게 증가하는가입니다.
7. 이제 AI 데이터센터는 경제성을 증명해야 한다
지금까지 AI 산업은 GPU를 얼마나 많이 확보하고 데이터센터를 얼마나 빠르게 건설하는지가 중요한 경쟁 요소였습니다.
하지만 앞으로는 그 시설에서 얼마나 많은 AI 서비스를 제공하고, 실제로 얼마의 이익을 창출할 수 있는지가 더욱 중요해질 것입니다.
AI 데이터센터가 소비하는 전력, 냉각 비용, 장비 감가상각비, 자금 조달 비용은 결코 작지 않습니다.
인텔과 퀄컴의 새로운 추론용 반도체는 이러한 비용을 줄이기 위한 기술적 시도라고 볼 수 있습니다.
물론 새로운 가속기가 기존 GPU보다 실제로 경제적인지는 독립적인 성능 평가와 상용 서비스 운영 결과를 통해 확인해야 합니다.
결론: HBM의 종말이 아니라 AI 반도체 시장의 진화
이번 인텔과 퀄컴의 발표는 HBM의 종말을 의미하지 않습니다.
오히려 AI 산업이 성숙하면서 다양한 기술이 각자의 역할을 찾아가는 과정에 가깝습니다.
최고 성능이 필요한 곳에서는 HBM의 중요성이 유지될 것입니다.
반면 충분한 성능을 저렴하게 제공하는 것이 중요한 곳에서는 LPDDR과 같은 대안이 새로운 시장을 만들어갈 수 있습니다.
투자 관점에서도 중요한 변화입니다.
AI 사용량이 폭발적으로 증가하더라도 GPU와 HBM 수요가 반드시 같은 비율로 증가하는 것은 아닙니다.
반대로 AI 서비스 비용이 낮아지면서 새로운 수요가 폭발한다면 반도체 시장 전체가 더 커질 수도 있습니다.
AI 산업의 다음 경쟁은 단순히 누가 가장 강력한 반도체를 만드는가가 아닐 것입니다.
누가 같은 전력과 비용으로 더 많은 AI 서비스를 제공할 수 있는가.
그리고 그 효율화 과정에서 누가 가장 많은 이익을 가져가는가.
앞으로 AI 반도체와 데이터센터 산업을 바라볼 때 반드시 살펴봐야 할 질문입니다.
AI생존일지 | 2026년 10월 26일
참고: 인텔 2026년 10월 12일 OCP 발표 및 공식 D270 제품 자료, 퀄컴 AI200 공식 발표. 제품별 경제성과 시장 영향은 향후 실증이 필요한 전망입니다.
댓글