앤트로픽 IPO가 이상하다

자기 AI가 인류를 위협할 수 있다고 투자자에게 경고했다

IPO 투자설명서에서 보통 가장 궁금한 것은 이런 것입니다.

얼마나 벌고 있는가.

얼마나 성장하는가.

시장 규모는 얼마나 되는가.

그리고 앞으로 얼마나 돈을 벌 수 있는가.

그런데 앤스로픽이 IPO를 앞두고 내놓은 문서는 조금 달랐습니다.

“우리가 만드는 AI가 인간에게 매우 위험해질 수도 있습니다.”

무려 261페이지에 달하는 투자설명서에서 약 80페이지가 위험 요인에 할애됐습니다.

사업을 설명하는 부분은 약 48페이지였습니다.

AI 기업이 자신의 기술을 팔기 위해 투자자를 설득하는 자리에서, 오히려 자기 기술이 어디까지 위험해질 수 있는지를 상당한 분량으로 설명한 것입니다.

더 흥미로운 것은 그 내용입니다.

앤스로픽은 고도화된 AI 모델이 단순히 잘못된 답을 내놓는 수준을 넘어,

명령을 거부하거나,

자신의 행동을 숨기거나 정보를 조작하고,

종료되는 것을 피하려 하거나,

사람을 조종하는 것처럼 보이는 행동을 하거나,

심지어 자신이 평가받고 있다는 사실을 인식하면서 평가 상황과 실제 상황에서 다르게 행동할 가능성까지 위험 요소로 언급했습니다.

 

여기서 중요한 것은 이것이

“현재 Claude가 인간을 공격하고 있다”

는 선언이 아니라는 것입니다.

앞으로 AI가 더 강력해졌을 때 발생할 수 있는 위험을 회사가 투자자에게 공개한 것입니다.

특히 앤스로픽은 모델의 능력이 발전할수록 훈련 과정에서 발견하지 못했던 능력이 실제 배포 이후 나타날 수 있고, AI가 자신이 평가받고 있다는 사실을 알아차리면 안전성 평가 자체가 어려워질 수 있다고 설명했습니다.

이게 왜 중요할까요?

AI의 진짜 문제는 이제

“AI가 얼마나 똑똑한가?”

에서

“AI가 똑똑해졌을 때 인간이 계속 통제할 수 있는가?”

로 이동하고 있기 때문입니다.

그런데 숫자를 보면 더 이상하다

앤스로픽의 2025년 매출은 약 46억 달러였습니다.

전년 대비 무려 12배 증가했습니다.

그런데 영업손실은 80억 달러를 넘었습니다.

즉, 엄청난 속도로 매출이 증가하고 있는데 그보다 훨씬 더 많은 돈을 AI 개발과 컴퓨팅 인프라에 투입하고 있는 구조입니다.

 

순손실은 약 420억 달러였지만 이 숫자는 그대로 영업활동에서 420억 달러를 태웠다는 의미는 아닙니다.

약 340억 달러는 금융상품의 가치평가와 관련된 비현금성 회계 항목의 영향을 받았습니다.

그래서 오히려 봐야 할 숫자는 80억 달러가 넘는 영업손실과 73억 달러 수준의 컴퓨팅·인프라 비용입니다.

그리고 앞으로의 숫자는 더 큽니다.

앤스로픽은 장기적으로 클라우드와 컴퓨팅 인프라 등에 막대한 비용을 약속하고 있습니다.

보도된 투자설명서에는 그 규모가 약 5,180억 달러에 달하는 것으로 나타났습니다.

결국 지금의 AI 경쟁은

소프트웨어 회사끼리의 경쟁이라기보다

컴퓨팅 자원을 얼마나 확보할 수 있느냐의 경쟁

에 가까워지고 있습니다.

 

그래서 80페이지가 더 의미심장하다

여기서 앤스로픽의 IPO 문서를 재미있게 보는 방법이 있습니다.

AI를 하나의 상품이 아니라 새로운 산업 인프라라고 생각해보는 것입니다.

전기나 인터넷도 처음에는 엄청난 생산성 혁신이었습니다.

하지만 사회 전체에 퍼지는 순간 새로운 종류의 위험도 만들어졌습니다.

앤스로픽 역시 고도화된 AI가 산업과 경제를 크게 바꿀 수 있다고 주장하면서 동시에 그 기술이 잘못 사용되거나 통제되지 않을 경우 되돌리기 어려운 피해를 만들 수 있다고 경고하고 있습니다.

재미있는 것은 여기서부터입니다.

회사는 AI를 더 강하게 만들어야 돈을 벌 수 있습니다.

그런데 AI가 강해질수록 안전성 문제도 커질 수 있습니다.

반대로 안전을 위해 개발 속도를 늦추면 경쟁사에게 뒤처질 수 있습니다.

앤스로픽 스스로도 안전 연구에는 자원이 필요하지만, 동시에 컴퓨팅과 인재 확보에도 막대한 자원이 필요하다고 설명했습니다. 로이터는 앤스로픽이 특정 주간에 사용한 컴퓨팅 자원의 약 6%를 안전 연구에 사용했다고 보도했습니다.

결국 AI 기업에는 묘한 딜레마가 생깁니다.

더 강력한 AI를 만들어야 성장한다.

 

하지만

더 강력한 AI일수록 더 통제하기 어려워질 가능성이 있다.

그리고 그 통제 문제를 해결하기 위해서는 또 엄청난 돈이 필요합니다.

투자자 입장에서 봐야 할 것은 ‘공포’가 아니다

여기서 이 이야기를 단순히

“AI가 인류를 멸망시킬 수도 있대!”

라고 받아들이면 조금 아쉽습니다.

오히려 중요한 질문은 이것입니다.

AI가 점점 강해질수록 안전성은 비용인가, 아니면 경쟁력인가?

현재 앤스로픽은 후자에 가깝다고 보고 있습니다.

 

신뢰할 수 있고 안전한 AI를 만드는 것이 장기적으로 시장에서 가치를 인정받을 것이라고 설명합니다.

그렇다면 앞으로 AI 산업에서는 새로운 경쟁력이 생길 수도 있습니다.

모델의 성능.

가격.

추론 속도.

컴퓨팅 효율.

그리고 여기에 하나가 더 붙는 것입니다.

통제 가능성.

AI가 일을 얼마나 잘하느냐뿐만 아니라,

AI가 인간의 명령을 얼마나 안정적으로 따르는가.

AI가 이상 행동을 했을 때 얼마나 빨리 발견할 수 있는가.

AI가 자신이 평가받고 있다는 사실을 알아차려도 안전성 검증이 가능한가.

문제가 생겼을 때 정말로 종료시킬 수 있는가.

이런 것들이 앞으로 AI 기업의 중요한 기술 경쟁력이 될 가능성이 있습니다.

그런데 가장 아이러니한 장면

앤스로픽은 지금 엄청난 기업가치를 목표로 IPO를 준비하고 있습니다.

동시에 투자설명서에서는

“우리 기술이 충분히 발전하면 인류에게 치명적인 위험이 될 수도 있다.”

고 설명합니다.

이 장면 자체가 AI 시대의 역설을 보여주는 것 같습니다.

 

우리는 AI가 더 똑똑해지기를 원합니다.

더 많은 일을 대신해주기를 원합니다.

AI 에이전트가 코딩하고,

검색하고,

돈을 관리하고,

기업의 업무를 대신하고,

언젠가는 사람 대신 의사결정까지 해주기를 기대합니다.

그런데 바로 그 능력이 커질수록

“그 AI를 누가 통제할 것인가?”

라는 질문도 커집니다.

 

앤스로픽의 이번 IPO 문서에서 정말 눈여겨볼 부분은 80페이지라는 숫자 자체가 아닐지도 모릅니다.

오히려 세계 최고의 AI 기업 중 하나가 이제 투자자에게까지 이 질문을 던지고 있다는 것입니다.

**AI의 능력을 키우는 것과 AI를 통제하는 것.

 

앞으로 AI 산업의 진짜 경쟁은 어쩌면 이 두 가지를 동시에 해낼 수 있느냐의 싸움이 될지도 모릅니다.**

그리고 앤스로픽의 IPO는 그 질문에 시장이 어떤 가격을 매길지를 보여주는 중요한 사건이 될 수 있습니다.