AI 시대의 투자법, 결국 병목을 찾아야 한다

AI 산업을 바라보다 보면 계속 새로운 기술이 등장합니다.

GPU가 중요하다고 하면 GPU를 봐야 할 것 같고, HBM이 뜨면 메모리 기업을 봐야 할 것 같고, 데이터센터가 늘어나면 전력과 냉각이 중요하다고 합니다.

그런데 조금 더 길게 보면 재미있는 공통점이 있습니다.

AI가 발전할 때마다 돈이 몰리는 곳이 계속 바뀐다는 것입니다.

그리고 그 변화의 중심에는 항상 하나의 단어가 있습니다.

 

병목입니다.

기술이 발전하면 돈은 병목으로 이동한다

인터넷 산업의 역사를 생각해보면 이해하기 쉽습니다.

처음에는 PC와 서버 같은 하드웨어가 중요했습니다.

이후에는 CPU와 운영체제가 중요해졌고, 인터넷이 보편화되면서 검색엔진과 플랫폼으로 가치가 이동했습니다.

스마트폰 시대가 오자 통신망과 모바일 플랫폼이 중요해졌고, 이후에는 배터리와 결제, 각종 애플리케이션으로 가치가 확장됐습니다.

기술이 발전할수록 처음에는 부족했던 것이 병목이 됩니다.

그 병목이 해결되면 다시 다음 단계의 병목이 나타납니다.

AI도 크게 다르지 않습니다.

그래서 AI 산업을 볼 때 단순히

“AI가 성장한다.”

라고 생각하는 것보다

“AI가 성장하면 다음에는 무엇이 부족해질까?”

라는 질문이 훨씬 중요할 수 있습니다.

 

AI의 첫 번째 병목은 GPU였다

생성형 AI가 폭발적으로 성장하면서 가장 먼저 문제가 된 것은 연산능력이었습니다.

AI 모델을 학습시키고 추론하려면 막대한 GPU가 필요했기 때문입니다.

수요는 빠르게 늘어나는데 최첨단 GPU를 원하는 만큼 확보하기는 어려웠습니다.

이때 GPU를 공급하는 기업은 강력한 가격 결정력을 가질 수 있었습니다.

그런데 GPU가 충분히 공급되기 시작하면 병목은 다른 곳으로 이동합니다.

GPU만 많다고 AI 데이터센터가 작동하는 것은 아니기 때문입니다.

GPU가 데이터를 빠르게 처리하려면 메모리가 필요하고, 수많은 GPU가 서로 데이터를 주고받아야 하며, 이를 위해서는 네트워크가 필요합니다.

그리고 결국 이 모든 장비를 움직일 전력이 필요합니다.

 

두 번째 병목은 메모리였다

AI 연산에서 중요한 것은 GPU의 연산능력만이 아닙니다.

GPU가 아무리 빨라도 필요한 데이터를 제때 공급하지 못하면 전체 시스템의 성능이 떨어집니다.

그래서 등장한 것이 HBM과 같은 고대역폭 메모리입니다.

GPU 옆에서 엄청난 속도로 데이터를 공급해야 하기 때문에 일반적인 메모리보다 훨씬 높은 기술력이 필요합니다.

여기서 재미있는 현상이 발생합니다.

AI 수요가 늘어나면서 HBM 생산능력이 부족해지면 메모리 자체가 병목이 됩니다.

하지만 HBM 생산이 확대되면 또 다른 문제가 생깁니다.

AI 서버가 처리하는 데이터가 늘어나면서 저장장치와 SSD에 대한 수요도 증가합니다.

결국 메모리 역시 하나의 거대한 영역 안에서 계속 새로운 병목이 생기는 구조입니다.

그리고 더 근본적인 문제가 등장한다

GPU도 있고 메모리도 있습니다.

그런데 데이터센터를 계속 늘리려면 무엇이 필요할까요?

 

전력입니다.

AI 데이터센터의 규모가 커질수록 전력 소비 역시 급격하게 증가합니다.

문제는 GPU처럼 주문한다고 바로 만들 수 있는 것이 아니라는 점입니다.

발전소를 짓는 데는 시간이 걸립니다.

송전망과 변전설비를 구축하는 데도 시간이 필요합니다.

데이터센터를 지을 땅이 있어도 전력을 공급할 수 없다면 데이터센터를 가동할 수 없습니다.

이 순간부터 AI 산업은 반도체 산업을 넘어 전력 인프라 산업과 연결됩니다.

AI의 성장이 결국 전력망의 문제로 확장되는 것입니다.

 

전력이 해결되면 냉각이 문제가 된다

전력은 또 다른 문제를 만들어냅니다.

전기를 많이 사용하면 열이 발생합니다.

고성능 GPU가 밀집된 데이터센터에서는 발열 자체가 중요한 문제가 됩니다.

기존의 공랭식 냉각만으로는 점점 한계가 나타날 수 있습니다.

그래서 액체를 이용한 냉각이나 보다 고밀도 환경에 적합한 냉각 기술이 중요해집니다.

여기서도 똑같은 공식이 적용됩니다.

AI 연산 증가 → 전력 증가 → 발열 증가 → 냉각 수요 증가

즉 전력과 냉각은 서로 떨어진 문제가 아니라 AI 데이터센터가 커지면서 동시에 나타나는 물리적 병목입니다.

 

그 다음은 네트워크다

수많은 GPU가 데이터센터에 들어갔다고 끝나는 것도 아닙니다.

GPU끼리 엄청난 양의 데이터를 주고받아야 합니다.

AI 모델의 규모가 커지고 추론량이 증가할수록 데이터 이동량 역시 커집니다.

이때 기존의 전기 신호 기반 연결은 속도와 전력, 발열 측면에서 한계를 마주할 수 있습니다.

그래서 점점 더 빠른 광통신과 광학 기술이 중요해집니다.

 

단순히 인터넷 회선이 빨라지는 문제가 아닙니다.

AI 데이터센터 내부에서 GPU와 GPU, 서버와 서버 사이에 엄청난 양의 데이터를 이동시키기 위한 새로운 네트워크 구조가 필요해지는 것입니다.

그리고 여기서 또 새로운 병목이 생깁니다.

결국 데이터가 가장 중요해진다

하드웨어를 아무리 많이 확보해도 AI가 학습할 데이터가 부족하다면 성능 향상에는 한계가 있습니다.

인터넷에 공개되어 있는 텍스트와 이미지 데이터는 이미 상당 부분 활용되고 있습니다.

앞으로 AI가 더 높은 수준으로 발전하려면 기업 내부의 데이터, 제조현장의 데이터, 물류 데이터, 의료 데이터, 로봇의 센서 데이터처럼 공개 인터넷에서는 얻기 어려운 데이터가 중요해질 수 있습니다.

특히 Physical AI가 발전하면 상황은 더 복잡해집니다.

 

공장에서 로봇이 실제로 움직이면

영상 데이터

센서 데이터

작업 데이터

실패 데이터

성공 데이터

등이 끊임없이 쌓입니다.

이 데이터가 다시 AI를 학습시키고, 더 좋은 AI가 만들어지면 로봇이 더 많은 현장에 투입됩니다.

그리고 다시 더 많은 데이터가 만들어집니다.

AI가 현실 세계로 들어갈수록 데이터의 성격 자체가 바뀌는 것입니다.

마지막에는 AI 에이전트가 등장한다

AI 인프라가 충분히 구축되면 다음 단계는 단순한 챗봇을 넘어서는 것입니다.

 

사용자의 질문에 답하는 AI에서

스스로 판단하고 도구를 사용하고 작업을 수행하는 AI 에이전트

로 발전할 가능성이 있습니다.

기업 입장에서는 모든 업무에 거대한 범용 모델을 사용하는 것보다 특정 업무에 최적화된 작은 모델이나 전용 AI 시스템을 사용하는 것이 비용과 보안 측면에서 유리할 수도 있습니다.

이렇게 되면 클라우드, 소형 언어모델, 기업 데이터, AI 에이전트, 보안, 오케스트레이션 같은 새로운 시장이 만들어질 수 있습니다.

하지만 여기서 끝이 아닙니다.

에이전트가 늘어나면 추론량이 다시 증가합니다.

추론량이 증가하면 GPU와 메모리가 더 필요합니다.

네트워크 사용량도 증가합니다.

데이터센터의 전력 소비도 다시 증가합니다.

즉 AI 산업의 병목은 한 방향으로 이동하다가 다시 앞쪽으로 돌아올 수도 있습니다.

 

그래서 ‘병목의 순서’보다 중요한 것은 병목의 이동이다

GPU → 메모리 → 전력 → 냉각 → 네트워크 → 데이터 → 에이전트.

이 순서를 하나의 정답처럼 외울 필요는 없습니다.

실제 산업에서는 여러 병목이 동시에 발생할 수 있고, 기술 발전 속도에 따라 순서도 달라질 수 있습니다.

중요한 것은 하나입니다.

AI가 성장할 때 어디에서 공급이 막히는가?

그리고 더 중요한 질문이 하나 있습니다.

그 병목을 해결하는 기업 중 누가 가격 결정력을 가지고 있는가?

AI 수요가 증가한다고 해서 관련 기업이 모두 똑같이 돈을 버는 것은 아닙니다.

누구나 만들 수 있는 제품이라면 공급업체가 늘어나면서 가격 경쟁이 시작될 수 있습니다.

반대로 기술 장벽이 높고, 고객 인증이 필요하고, 공급업체가 제한되어 있다면 수요 증가가 가격과 마진으로 연결될 가능성이 커집니다.

결국 중요한 것은 단순한 수요 증가가 아닙니다.

 

희소성입니다.

병목을 찾았다면 그 다음에는 기업을 봐야 한다

병목 산업을 찾았다고 바로 투자할 수 있는 것도 아닙니다.

그 안에서도 기업마다 위치가 다릅니다.

같은 AI 데이터센터에 들어가는 제품이라도

범용 제품인지

고부가가치 제품인지

대체 가능한 제품인지

고객 인증이 필요한 제품인지

글로벌 고객을 확보했는지

생산능력을 얼마나 늘릴 수 있는지

가격을 올려도 고객이 쉽게 다른 공급자로 바꿀 수 없는지

에 따라 기업의 경제적 가치는 크게 달라질 수 있습니다.

그래서 결국 병목 투자는

“어떤 산업이 성장하는가?”

에서 끝나는 것이 아니라

“그 산업에서 누가 희소한가?”

까지 내려가야 합니다.

 

투자에서 가장 어려운 것은 기다리는 것이다

병목 투자의 또 하나의 특징은 시간이 필요하다는 것입니다.

시장이 병목을 발견하면 관련 기업의 주가가 먼저 움직일 수 있습니다.

하지만 실제 생산능력 확대와 매출 증가, 이익 증가가 뒤따르는 데는 시간이 걸립니다.

따라서 단기간의 주가 움직임만으로 기술의 성공 여부를 판단하기 어렵습니다.

관심 있는 기업을 발견했다면 기업의 매출 구조와 고객, 연구개발, 생산능력, 수주, 경쟁사, 기술 장벽 등을 충분히 조사하고 장기간 관찰하는 과정이 필요합니다.

AI를 이용한다면 이 과정도 훨씬 효율적으로 만들 수 있습니다.

 

기업의 사업보고서와 실적자료를 읽고,

최근 몇 년 동안 매출이 어디에서 발생했는지 확인하고,

R&D와 특허를 살펴보고,

주요 고객과 파트너십을 추적하고,

경쟁사가 얼마나 빠르게 따라올 수 있는지를 확인할 수 있습니다.

처음부터 큰돈을 넣는 것보다 작은 금액으로 기업을 관찰하면서 자신만의 투자 가설을 검증하는 방법도 있습니다.

AI 시대의 진짜 질문

AI 시대에는 매일 새로운 기술이 등장합니다.

새로운 모델이 나오고 새로운 반도체가 나오고 새로운 AI 서비스가 등장합니다.

하지만 그보다 오래가는 질문이 하나 있습니다.

 

“이 기술이 10배 커진다면 무엇이 부족해질까?”

그리고 그 부족한 것을 해결할 수 있는 기업은 어디일까.

그리고 그 기업은 단순한 공급업체일까, 아니면 대체하기 어려운 기술과 생산능력을 가지고 있을까.

결국 AI 시대의 투자는 미래를 맞히는 게임이라기보다 미래에 발생할 병목을 미리 찾아가는 과정에 가까울지도 모릅니다.

AI가 어디까지 발전할지는 아무도 정확하게 알 수 없습니다.

하지만 AI가 커질수록 무언가가 부족해진다는 사실은 변하지 않습니다.

그래서 AI를 볼 때마다 모델 이름만 따라가기보다,

GPU 다음에는 무엇이 부족할까.
전력 다음에는 무엇이 부족할까.
네트워크가 해결되면 또 무엇이 부족할까.

이 질문을 계속 던져보는 것.

어쩌면 이것이 AI 시대를 바라보는 가장 오래가는 투자 프레임 중 하나가 될 수 있습니다.