2030년까지 전 세계의 연간 데이터 생성량이 718제로 증가할 것으로 예측되고 있음에 따라, AI 데이터센터의 생태계가 커다란 변화를 맞이하고 있다. 이와 함께 AI 인프라의 주요 초점이 그래픽 처리 장치(GPU) 확보에서 데이터 저장 구조로 확대되고 있다는 분석이 등장하고 있다. 웨스턴디지털(Western Digital)은 최근 블로그를 통해 IDC의 글로벌 데이터스피어 전망을 인용하며, 데이터의 축적이 AI 인프라의 새로운 병목 현상으로 떠올랐다고 주장했다.
AI 시스템은 단순한 일회성 연산으로 끝나는 것이 아니다. 입력된 학습 데이터와 결과물, 모델 체크포인트, 추론 로그, 프로세스, 출력 값, 그리고 평가 데이터 등 여러 형태의 데이터가 지속적으로 생성되고 축적된다. 이러한 데이터들은 모델 개선, 품질 평가, 규정 준수 점검 및 장애 분석 등 다양한 목적으로 재사용될 수 있다. 웨스턴디지털은 이러한 이유로 AI 인프라를 단순 컴퓨팅 환경으로 간주해서는 안 되며, 종합적인 데이터 시스템으로 접근해야 한다고 강조하고 있다.
이러한 맥락에서 무엇보다 중요한 것은 저장장치의 성능 경쟁이다. 어떤 데이터가 얼마나 자주 접근되는지, 얼마나 빨리 복구되어야 하는지, 자료 재생성 시의 비용 등이 저장 계층을 나누는 중요한 요소가 된다. 웨스턴디지털은 활성 학습 데이터와 실시간 추론 데이터는 고성능 플래시 저장장치에 배치하고, 장기 보관이 필요한 데이터 및 낮은 빈도로 접근하는 자료는 대용량 HDD와 오브젝트 스토리지에 저장하는 계층적 구조를 제안하고 있다. 이와 같은 차등적 저장 전략은 전체 비용을 절감하는 데 기여한다.
또한, 1 제타바이트(ZB)는 약 1조 기가바이트(GB)에 해당하며, 데이터의 규모가 페타바이트(PB)나 엑사바이트(EB) 단위로 커질수록 모든 자료를 고성능 저장장치에 저장하는 방식은 경제성과 전력 소비 측면에서 부담이 될 수 있다는 점도 감안해야 한다. 최근 웨스턴디지털 자료에 따르면 AI 데이터의 약 80%가 클라우드와 함께 HDD에 저장되어 있다. 2026년 고객 조사에서 응답자 중 87%가 AI 인프라의 용량 확장과 총 소유 비용(TCO) 최적화를 중요시한다고 밝혔다.
대형 조직 중 70%는 전체 저장 용량의 절반 이상이 HDD로 차지하고 있어, 고성능 플래시와 대용량 HDD를 혼합하여 사용하는 계층형 저장 구조의 필요성이 더욱 강조되고 있다. 이는 국내 기업이 GPU 구매 후 변화하는 비용 구조를 다시 평가해야 할 시점이 되었다는 신호로 해석될 수 있다. AI 서비스가 실험 단계를 지나 실제 운영 단계로 넘어가면, 추론 로그와 출력 데이터가 매일 증가하게 되어 고성능 저장장치만으로는 비용 부담이 커질 수 있다.
또한, 국내 산업은 AI 데이터센터의 투자 흐름에 연계되어 있으며, 관련 기술이 고성능 반도체와 저장장치 수요에 미치는 영향을 무시할 수 없다. 웨스턴디지털은 향후 AI 인프라의 평가 기준이 GPU 수량을 넘어 PB당 저장 비용, 전력 소비, 데이터 복구 효율성, 데이터 생애주기 관리 능력 등으로 확장될 가능성이 높다고 전망하고 있다. 기업들은 이제 AI 데이터를 얼마나 오랫동안, 어느 속도로, 그리고 어떤 비용 구조에서 보관할지를 신중히 고려해야 할 시점에 다다른 것이다.
