모두가 클라우드로 달릴 때, 서버를 직접 만드는 회사에 6천억이 몰렸다

지난 10년 동안 IT 업계의 정답은 하나였습니다. 서버실을 없애고 클라우드로 가라. 그런데 정반대 방향에 베팅한 회사가 4억 4,500만 달러, 우리 돈으로 약 6천억 원을 끌어모았습니다. Oxide Computer라는 회사인데요. 이들이 파는 건 소프트웨어가 아니라 랙 하나짜리 컴퓨터입니다. 말 그대로 냉장고만 한 쇳덩어리를 트럭에 실어 고객사 데이터센터에 넣어주는 사업이죠.

먼저 한 가지 짚고 갑니다. 이번 글은 커뮤니티 반응 데이터가 거의 안 잡혔습니다. 레딧에는 최근 30일 사이 관련 스레드가 없었고 X는 데이터 접근 자체가 막혀 있었습니다. 그러니 실시간 여론 분석이라기보다, 이 소식이 지금 왜 의미가 있는지 구조를 뜯어본 글에 가깝다는 점을 미리 밝혀둡니다.

이 회사가 파는 건 서버가 아니라 ‘클라우드 그 자체’

Oxide를 서버 제조사로만 보면 핵심을 놓칩니다. 이들의 주장은 이겁니다. 지금 기업이 사는 서버는 1U 짜리 상자를 랙에 쌓아 올린 조립품일 뿐이라는 겁니다. 상자마다 자체 전원 공급 장치가 들어 있고, 자체 팬이 돌고, 자체 BMC 펌웨어가 얹힙니다. 그러다 보니 전력은 변환을 거칠 때마다 새어나갑니다. 팬은 서로 무관하게 돌고, 펌웨어는 제조사마다 다른 블랙박스가 됩니다.

Oxide는 이걸 랙 단위로 다시 설계했습니다. 전원은 랙 전체가 DC 버스바 하나로 받고 냉각도 랙 단위로 묶었습니다. 상자마다 팬을 넣을 필요가 없으니 공간도 전력도 아낍니다. 펌웨어 쪽은 더 과감합니다. 기존 BIOS/UEFI를 걷어내고 Hubris라는 자체 운영체제를 러스트(Rust)로 새로 짰습니다. 보드 위 가장 낮은 층부터 컨트롤 플레인까지 전부 자기들이 만든 코드로 채운 겁니다.

그래서 고객 데이터센터에 들어가는 건 ‘서버 여러 대’가 아니라 API로 VM과 스토리지를 띄울 수 있는 완성된 클라우드 한 덩어리입니다. AWS 콘솔에서 하던 걸 내 건물 지하에서 하는 셈이죠. 남의 서버에 클라우드 흉내 내는 소프트웨어를 얹는 방식과는 출발점이 다릅니다. 하드웨어 설계 단계부터 클라우드였다는 게 이 회사의 정체성입니다.

왜 지금인가, 클라우드 청구서가 만든 반작용

이 베팅이 설득력을 얻은 배경에는 몇 년째 쌓여온 클라우드 회귀(cloud repatriation) 논쟁이 있습니다. 도화선은 2021년 안드레센 호로위츠가 낸 보고서였습니다. 클라우드에 묶인 비용 때문에 상장 소프트웨어 기업이 놓치는 시가총액이 5천억 달러 규모라는 계산이었죠. 클라우드 비용을 문제 삼은 쪽이 다름 아닌 벤처캐피털이었습니다.

실제 사례도 나왔습니다. 37signals(Basecamp, HEY를 만든 회사)는 클라우드에서 자체 하드웨어로 빠져나가면서 5년간 1천만 달러 이상을 아낄 것으로 추산한다고 공개적으로 밝혔습니다. 서버 구매 비용을 다 치르고도 첫해부터 절감이 났다는 게 이들 주장입니다.

물론 이걸 업계 전체의 흐름으로 일반화하면 곤란합니다. 워크로드가 예측 가능하고 트래픽이 안정적인 회사에서 나온 결과니까요. 스타트업이 수요를 모르는 상태로 서버를 사면 그건 절약이 아니라 재고입니다. 다만 분명히 달라진 게 하나 있습니다. “일단 클라우드"가 기본값이던 시대는 끝났습니다. 이제는 계산기를 두드려보고 결정하는 회사가 늘었습니다. Oxide는 그 계산 끝에 남는 수요를 노립니다.

AI 데이터센터라는 거대한 뒷바람

여기에 최근 몇 년의 AI 붐이 겹칩니다. 이 조합이 Oxide 같은 회사에 유리하게 굴러가는 이유가 있습니다.

일단 전력입니다. AI 시대의 데이터센터에서 가장 비싼 자원 자리는 서버가 아니라 전력, 그리고 그 전력을 뽑을 수 있는 부지가 차지했습니다. 전력이 병목이면 같은 전력으로 연산을 더 뽑아내는 설계가 그대로 돈이 됩니다. 랙 단위로 전원과 냉각을 묶는 건 예전엔 “그래서 몇 퍼센트 아끼는데?” 소리나 듣던 개선이었습니다. 지금은 사업 승패가 여기서 갈립니다.

데이터 주권도 있습니다. 모델을 자체 데이터로 학습시키거나 파인튜닝하려는 기업이 늘면서 데이터를 외부로 내보내는 것 자체가 부담인 영역이 커졌습니다. 금융, 의료, 방산, 공공이 대표적이죠. 이들은 “싸니까 온프렘"이 아니라 “나가면 안 되니까 온프렘"인 고객입니다. 가격 민감도가 낮은 대신 제대로 굴러가는 물건을 원합니다.

GPU 확보 경쟁도 한몫합니다. 클라우드에서 원하는 시점에 원하는 규모의 가속기를 잡기가 어려워지자 아예 사서 깔아두는 쪽을 다시 들여다보기 시작했습니다. 몇 년간 놀리는 서버가 아니라 사자마자 100% 돌아가는 서버라면, 소유가 임대보다 유리해지는 지점이 훨씬 앞당겨집니다.

하드웨어 스타트업의 승산은 어디에 있나

그럼에도 하드웨어 스타트업은 어렵습니다. 소프트웨어는 배포 비용이 0에 수렴하지만 서버는 한 대 팔 때마다 부품값이 나갑니다. 재고를 떠안아야 하고 공급망 사고가 한 번 나면 분기가 통째로 날아갑니다. 게다가 상대는 델, HPE, 슈퍼마이크로 같은 수십 년 된 회사입니다. 6천억이 큰돈처럼 보여도 이 판에서는 겨우 링 위에 올라갈 수 있는 입장료에 가깝습니다.

그래서 승부처는 원가 경쟁이 아닙니다. 다른 데 있습니다.

하나는 수직 통합에서 나오는 마진입니다. 부품을 사다 조립하면 마진은 조립 값밖에 안 남습니다. 펌웨어부터 컨트롤 플레인까지 직접 만들어 ‘클라우드 경험’을 통째로 팔면 가격표를 쇳덩어리가 아니라 소프트웨어 기준으로 붙일 수 있습니다. Oxide가 러스트로 밑바닥부터 다시 짠 것도 기술 취향 때문이 아닙니다. 가격을 누가 정하느냐가 걸린 문제였죠.

또 하나는 운영 인력입니다. 온프렘의 숨은 비용은 서버값이 아니라 그걸 돌릴 사람입니다. 펌웨어 업데이트, 하드웨어 장애 대응, 네트워크 설정 같은 일에 손이 얼마나 덜 가느냐가 관건이죠. 랙 하나를 통째로 책임지는 단일 벤더 구조가 여기서 유리합니다. 문제가 터졌을 때 전화할 곳이 한 군데라는 건 생각보다 값이 나갑니다.

마지막은 틈새의 크기입니다. Oxide는 AWS를 이길 필요가 없습니다. 클라우드로 가지 못하거나 가지 않기로 한 기업들, 그 시장의 일부만 가져가도 충분합니다. 온프렘 시장은 성장이 멈췄을 뿐 사라지지 않았고 그 안의 제품은 대부분 낡았습니다. 정체된 시장에서 혼자 새것인 건 나쁘지 않은 자리입니다.

진짜 질문은 “클라우드냐 온프렘이냐"가 아니다

Oxide의 베팅이 흥미로운 건 클라우드가 틀렸다고 말하지 않아서입니다. 이들이 파는 건 클라우드의 사용 경험을 소유 모델로 옮기는 일입니다. 탄력성과 API는 그대로 두되 청구서와 데이터 위치는 내가 쥐는 구조죠. 지난 10년의 진짜 성과는 “남의 서버를 쓰는 것"이 아니라 “인프라를 코드로 다루는 것"이었으니까요.

그래서 남는 질문은 이겁니다. 여러분 회사의 클라우드 비용 중 탄력성 때문에 내는 돈은 얼마고, 그냥 관성으로 내는 돈은 얼마일까요. 트래픽이 밤낮으로 열 배씩 출렁이는 서비스라면 클라우드가 여전히 정답입니다. 하지만 24시간 일정한 부하가 도는 워크로드에 시간당 요금을 내고 있다면 한 번쯤 계산기를 두드려볼 만합니다. 6천억을 베팅한 투자자들은 이미 그 계산을 끝낸 모양입니다.