2025년 9월 1일, AI 업계에 폭탄 같은 뉴스가 떨어졌어요. 과학기술정보통신부가 2026년 예산을 무려 23조 7천억원으로 편성했다는 소식이었죠. 이게 얼마나 파격적이냐면 전년 대비 12.9% 증가한 역대 최대 규모예요.

여기서 더 놀라운 건 단연 AI 분야에 배정된 10조 1천억 원이에요. 기존 예산 3조 3천억 원에서 3배 이상 증가한 파격적인 규모인데요. 이 액수는 단순한 숫자놓음이 아니라, 미국과 중국의 기술 패권 다투 속에서 '빠른 추격자(fast follower)'가 아닌 '선도자(first mover)' 그룹에 진입하겠다는 목표를 보여주고 있어요.

최근 구윤철 부총리는 "AI대전환시대에서 뒤진다면 미래가 없다고 보고 AI를 예산의 주축으로 꼽았다"고 밝혔어요.

왜 이렇게 많은 돈을 GPU에 쓰는 걸까요?

이 예산 안에서도 정부는 2025-2026년 동안 무려 3조 5천억 원을 GPU 확보에 쌏아붓기로 했는데요. 이건 단순한 하드웨어 구매를 넘어선 국가 생존 전략의 일환이에요.

GPU는 원래 게임이나 영상 처리를 위한 부품이었어요. 하지만 AI 시대가 도래하면서 이 작은 칩이 국가 경쟁력을 좌우하는 핵심 자원으로 변모했죠. 마치 산업혁명 시대의 석탄이나, 20세기의 석유처럼요. OpenAI가 GPT-3를 학습시킬 때를 예로 들면, CPU로는 355년이 걸릴 작업을 GPU로는 단 34일 만에 완료했다고 해요. 이 극적인 차이가 바로 GPU가 AI 시대의 필수 인프라가 된 이유예요.

글로벌 GPU 확보 경쟁은 어떤 상황인가요?

현재 전 세계는 그야말로 GPU 확보 전쟁 중이에요. 과기정통부 배경훈 장관은 최근 간담회에서 *"미국과 중국의 AI 패권 경쟁 속에서 GPU 확보가 AI 경쟁력의 핵심"*이라고 강조했어요. 이는 단순한 수사가 아닌, 냉혹한 현실을 반영한 발언이죠.

NVIDIA의 최신 GPU인 H100을 구매하려면 현재 6개월에서 12개월을 기다려야 해요. AI 경쟁이 치열한 상황에서 반년 이상의 대기는 무시할 수 없는 시간이에요.

이런 상황에서 각국의 대응을 살펴보면 이래요.

• 중국: 미국의 수출 규제를 우회해 이미 10만 장 이상의 GPU를 비축

• 사우디아라비아: 오일머니를 동원해 4만 장을 일괄 구매

• 일본: 기존 후가쿠 슬림에 더해 2조엔(약 20조원) 추가 투자를 결정

• 싱가포르: 동남아 AI 허브를 목표로 3만 장 확보에 나선 상태

이런 글로벌 경쟁 속에서 한국의 현재 GPU 보유 현황은 어떤지 보면, 네이버가 3만 장, SKT가 2만 장, 카카오가 1만 장 정도를 보유하고 있지만, 중소기업이나 스타트업은 거의 전무한 상태예요. 이들이 GPU를 사용하려면 클라우드 서비스를 통해 시간당 수십만 원의 비용을 지불해야 하고, 이게 생태계 불균형의 원인이 되고 있죠.

정부의 대규모 투자 전략은 무엇을 목표로 하나요?

정부가 이토록 막대한 예산을 GPU에 투입하는 이유는 명확해요. 개별 기업이 각자 GPU를 구매하는 것보다 정부가 대량으로 구매해 인프라를 구축하는 게 훨씬 효율적이기 때문이에요. 대량 구매를 통한 협상력 확보, 빠른 수급, 그리고 중소기업과 스타트업에 대한 접근성 제공이라는 세 가지 목표를 동시에 달성할 수 있죠.

2025년 현재 진행 중인 주요 지원사업을 살펴보면 세 가지가 눈에 띄어요.

첫째는 'AI컴퓨팅 자원 활용 기반 강화 사업'이에요. 이 사업은 무려 2조 1,087억원이 투입되는 초대형 프로젝트로, H100 GPU를 200장에서 600장까지 1개월에서 9개월간 임차할 수 있도록 지원해줘요.

둘째는 '첨단 GPU 확보 추진방안'이에요. 정부가 네이버클라우드, NHN클라우드, 카카오 등 민간 기업과 협력해 NVIDIA의 최신 GPU인 H200과 B200을 1만 장 확보할 계획이에요.

여기에 서울시는 별도로 서울 AI 허브를 통해 Track 1, Track 2 지원사업을 운영하고 있고요.

2026년도 예산을 보면 정부의 의지가 더욱 명확해지는데요. AI 대전환(AX) 지원 예산이 전년 대비 29.7% 증가한 4조 4,600억원으로 편성되었고, 여기에는 GPU 1만 5천 장 추가 확보 계획이 포함돼 있어요.

특히 주목할 점은 AGI(범용인공지능) 준비 프로젝트에 200억원, 피지컬AI 선도기술에 150억원, 버티컬AI 연구지원센터 설립에 400억원을 배정한 것이에요. 이는 단순한 하드웨어 확보를 넘어 AI 기술 전반의 생태계를 구축하려는 장기적 비전을 보여줘요.

클라우드와 온프레미스, 경제적으로 무엇이 더 유리할까요?

많은 기업이 초기에는 클라우드 GPU 서비스로 시작하지만, 사용량이 늘어나면서 비용 문제에 직면하게 돼요. H100 GPU 1장을 클라우드로 사용할 경우 시간당 35만원, 하루 24시간 사용 시 840만원, 한 달이면 2억 5,200만원, 연간 약 30억원의 비용이 발생해요.

반면 자체 GPU 서버를 구축하면 초기 투자 5억원에서 7억원, 연간 운영비 1억원에서 2억원으로, 3년 총 비용이 약 10억원 수준이에요. 장기적으로 보면 자체 구축이 압도적으로 경제적이죠.

온프레미스 GPU의 장점은 비용 절감만이 아니에요. 금융, 의료, 국방 등 민감한 데이터를 다루는 분야에서는 데이터 주권 확보가 필수적이에요. 또한 자체 환경에 맞게 GPU를 최적화하면 성능을 20%에서 30% 향상시킬 수 있고, 24시간 즉시 사용이 가능하다는 점도 큰 장점이죠.

실제로 테슬라는 1만 개 이상의 H100으로 '도조 슈퍼컴퓨터'를 구축했고, 메타는 35만 개의 H100을 자체 데이터센터에 설치할 계획이며, 일론 머스크의 xAI는 멤피스에 10만 개 GPU 클러스터를 구축 중이에요. 다들 온프레미스를 선택하고 있다는 것이죠.

국가AI컴퓨팅센터 사업은 어떻게 변화했나요?

정부가 추진하는 구가AI컴퓨팅센터 사업은 두 번의 유찰 끝에 대폭 수정됐어요. 당초 공공 51%, 민간 49%였던 지분 구조를 민간 70% 이상으로 조정했고, 정부 투자금 보장 의무인 매수청구권을 삭제했으며, 국산 NPU 50% 의무 조항도 없애었어요. 이는 정부가 민간의 참여를 절실히 원하고 있으며, 현실적인 조건으로 타협했음을 보여줘요.

구혁채 과기정통부 제1차관은 "광주, 대구, 전북, 경남 등 4개 지역에 AI 혁신 거점을 조성해 지역과 산업 전반에 걸친 AX를 지원할 것"이라고 밝혔어요.

이는 수도권 집중을 탈피하고 전국적인 AI 인프라를 구축하려는 전략으로, 각 지역마다 GPU 클러스터가 생성될 예정이에요.

정부의 이러한 움직임은 민간 기업에게도 중요한 시그널이에요. 현재는 정부 정책 지원이 역대 최고 수준으로, 투자세액공제 최대 25%, 전력계통영향평가 신속 처리 등 각종 혜택이 제공되고 있어요. 또한 NVIDIA B200이 곧 대량 공급되면서 H100 가격이 안정화되고 있어, 지금이 GPU 투자의 적기일 수 있다는 해석도 나오고 있죠.

왜 지금이 GPU 투자의 적기일까요?

NVIDIA CEO 젠슨 황은 "데이터센터는 새로운 공장이고, GPU는 새로운 석유다"라고 말한 바 있어요. 당시에는 마케팅 발언으로 치부되었지만, 현재의 상황을 보면 정확한 예언이었죠. AI 시대에 GPU 없는 기업은 산업혁명 시대에 증기기관 없는 공장과 같다는 배경훈 장관의 발언도 같은 맥락이에요.

정부가 23조 7천억원이라는 역대 최대 규모의 예산을 편성하고, 그 중 상당 부분을 GPU 확보에 투입하는 것은 단순한 기술 투자가 아닌 국가 생존 전략이에요. 개별 기업 차원에서도 이제는 GPU 인프라를 단순한 비용이 아닌 핵심 경쟁력으로 인식해야 할 때예요.

그런데 여기서 한 가지 의문이 들 수 있어요. 정부와 기업들이 이토록 열광하는 H100, H200, B200 같은 GPU들은 도대체 무엇이 특별하기에 수천만원을 주고도 구하기 어려운 걸까요? 왜 전 세계가 이 작은 칩 하나를 두고 전쟁을 벌이는 걸까요?

정리하자면

한국 정부가 23.7조원 규모의 역대 최대 예산을 편성하고, 그 중 3조 5천억 원을 GPU 확보에 투입하기로 한 건 단순한 기술 투자가 아니라 AI 시대의 국가 생존 전략이에요. 글로벌 GPU 확보 전쟁에서 뒤지면 미래가 없다는 판단이죠.

기업 입장에서도 지금은 정부 지원을 활용해 GPU 인프라를 구축하기 가장 좋은 시기예요. 투자세액공제, 에너지 지원사업, 대여 GPU 프로그램 등 다양한 혜택을 활용할 수 있고, B200 대량 공급으로 H100 가격도 안정화되고 있죠. 클라우드 대비 3배 이상 경제적인 온프레미스 구축이 가능해진 지금, 본격적인 검토를 시작할 때예요.

엑스디노드에서는 기업의 AI 인프라 구축을 위한 최적의 GPU 솜루션을 함께 고민해드려요. 정부 지원사업 활용부터 맞춤형 서버 구성까지, 필요하신 부분 편하게 문의해 주세요.