인프라 자원 소비의 중심이 학습에서 실시간 추론으로 이동…추론 워크로드 지출, 2026년 학습 지출 추월
가트너(Gartner)는 전 세계 AI 최적화 서비스형 인프라(IaaS) 지출이 2026년까지 96% 증가해 총 420억 달러(약 59조 원)에 이를 것으로 전망했다.
하딥 싱(Hardeep Singh) 가트너 수석 애널리스트는 “대규모 언어 모델(LLM) 학습을 지원하기 위한 인프라 수요가 지속되고, 기업 애플리케이션과 업무 프로세스 전반에 걸쳐 AI가 빠르게 상용화되면서 시장 성장을 견인하고 있다”고 말했다.
전 세계 AI 최적화 IaaS 시장은 높은 성장세를 이어가며 2027년에는 660억 달러(약 93조 원)에 이를 것으로 예상된다는 설명이다.
추론 워크로드 지출, 2026년 학습 지출 추월 전망
업체 측에 따르면, 에이전틱 AI의 확산으로 다단계 자율 처리 과정에서 컴퓨팅 집약도가 높아지고 있다. 그 결과 자원 소비가 추론 중심으로 재편되고, AI 최적화 IaaS는 기업 AI 전략의 핵심 기반으로 부상하고 있다.
싱 애널리스트는 “기업들이 모델 개발에서 대규모 상용 배포로 전환하면서, 미세 조정 모델과 도메인 특화 모델(DSM)이 고객 대응 및 운영 시스템에 빠르게 통합되고 있다”고 말했다. 이어 “이러한 시스템에는 일회성 학습이 아니라 지속적인 실시간 실행이 필요하다”며, “이 같은 변화는 클라우드 소비를 가속화하고 AI 최적화 인프라에 대한 지속적인 수요를 창출하고 있다”고 설명했다.
올해 전 세계 추론 부문 지출은 233억 달러(약 33조 원)로, 학습 관련 지출 190억 달러(약 27조 원)를 넘어설 전망이다. 전체 AI 최적화 IaaS 지출에서 추론이 차지하는 비중은 2026년 55%에서 2027년 59%로 확대될 것으로 예상된다. 추론 워크로드의 비중이 증가하면서 클라우드 투자 우선순위도 재편될 전망이라고 업체 측은 전했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
