초거대 AI 시대로의 전환은 데이터 생산부터 학습, 서비스 제공까지 국가 ICT 구조 전반을 다시 설계하는 방향으로 진행되고 있다. 이에 정부는 대한민국 대도약 3대 메가프로젝트의 하나인 ‘AI 고속도로’를 추진한다. 국토 전역에 GW(기가와트)급 AI 데이터센터를 균형 있게 분산 배치하고 하나로 연결하는 방식이다.
AI 데이터센터는 초거대 AI 모델의 개발과 학습, 추론, 검증을 위한 대규모 인프라다. 수만 장 규모의 AI 가속기, 수백 PB(페타바이트)급 저장장치, 대용량 전력, 액체 냉각, 초고속 보안 네트워크가 필요해 조 단위 중장기 투자가 뒤따른다. 정부는 공간과 기반시설을 공동으로 조성하고 수요에 맞춰 장비를 단계적으로 확충하는 방식을 선택했다. 이는 공용주차장과 유사한 구조로, 각 사용 주체가 다양한 AI 장비를 배치해 활용하고 유휴 장비는 상호 공유한다.
데이터 연합 체계도 함께 구축된다. 전국 대학, 기업, 연구기관, 공공기관에 흩어진 데이터는 소유권과 보안, 접근 방식이 달라 공동 활용이 어렵다. 모든 데이터를 중앙으로 옮기는 방식도 보안과 산업별 특수성을 충족하기 어렵다. 정부는 거점별 관할권을 유지하면서 데이터를 안전하게 교환하는 ‘확장된 데이터안심구역’을 AI 데이터센터와 함께 구축할 계획이다. 지역별 데이터 저장소를 논리적으로 하나처럼 운용하는 연합형 데이터레이크를 만들고 각 거점을 수백 PB 규모로 조성한다.
초거대 AI 경쟁력은 연산 장비 수량보다 어떤 데이터를 얼마나 오래 축적하고 통제권을 유지하는지에 달려 있다. 해외 초거대 클라우드에 과도하게 의존하면 공공, 의료, 국방, 에너지 데이터가 외부 생태계에 종속될 수 있다. 국산 AI 반도체 기반의 AI 데이터센터와 체계화된 데이터 연합은 우리 데이터로 독자적인 기반 모델을 개발할 수 있는 물적 토대가 된다. 오픈소스 기반 공통 프레임워크는 연산과 저장 자원을 공동 활용하도록 지원하고 데이터의 위치와 형태, 이력을 관리한다.
AI 데이터센터는 단순한 건설 사업에 머물러서는 안 된다는 지적이다. 공동활용형 K-AI 인프라, 보안과 인증을 통합한 데이터연합 체계, 민관 협력형 개방 운영을 성숙시켜 국가 차원의 기반으로 결합해야 한다. 이를 통해 지역과 산업별 AX 연구개발과 실증을 지속적으로 이끌어야 한다는 것이 정부의 구상이다.