좋은 AI 모델을 만드는 경쟁은 알고리즘만의 싸움이 아니라 GPU·HBM·전력·냉각·부지를 확보하는 인프라 전쟁이 됐습니다.
61개 사이트가 보여준 당시의 규모
2026년 6월 말 공개 데이터 기준으로 Epoch AI의 대형 AI 데이터센터 자료는 61개 사이트, 약 900만 개의 H100 환산 연산능력, 약 9.6GW의 IT 전력을 담고 있었습니다. 주요 소유자는 13곳으로 집중돼 있었습니다.
이 데이터베이스는 계속 갱신되는 동적 자료이므로, 현재 화면의 수치는 당시보다 커질 수 있습니다.
H100 환산이라는 공통 단위
AI 가속기는 NVIDIA GPU뿐 아니라 Google TPU 등 종류가 다양합니다. Epoch AI는 서로 다른 칩의 연산능력을 H100-equivalent로 환산해 규모를 비교합니다. 이는 실제 H100 개수를 뜻하는 것이 아니라 비교를 위한 추정 단위입니다.
GPU만 있다고 끝나지 않는다
대규모 학습에는 GPU와 함께 데이터를 빠르게 공급하는 HBM, 칩을 연결하는 네트워크, 막대한 전력과 냉각설비가 필요합니다. 한 요소라도 부족하면 비싼 가속기가 제대로 일하지 못합니다.
병원 AI에도 미치는 영향
대형 모델 학습비가 높아질수록 병원은 자체 모델을 처음부터 만들기보다 검증된 클라우드 모델이나 경량 로컬 모델을 조합할 가능성이 큽니다. 비용뿐 아니라 환자정보 보호, 지연시간, 장애 시 대체경로를 함께 설계해야 합니다.
핵심 정리
좋은 AI 모델을 만드는 경쟁은 알고리즘만의 싸움이 아니라 GPU·HBM·전력·냉각·부지를 확보하는 인프라 전쟁이 됐습니다. 수치와 연구결과는 적용 범위와 한계를 함께 확인해야 하며, 한 가지 결과만으로 개인이나 사회 전체의 결론을 단정해서는 안 됩니다.
출처
이 글은 기존 대화의 원고 제목과 핵심 내용을 바탕으로 자료를 다시 확인해 HTML 형식으로 재구성했습니다.