AI 팩토리·엣지·추론 클러스터 연결… 엔비디아와 협력 강화하며 초저지연 분산 AI 서비스 구현
HPE는 ‘엔비디아 GTC 2026(NVIDIA GTC 2026)’에서 엔비디아 레퍼런스 아키텍처를 기반으로 구축된 엔드투엔드 솔루션 ‘HPE AI 그리드(HPE AI Grid)’를 발표했다.
이 솔루션은 지역 및 초엣지(far-edge) 환경 전반에 분산된 AI 팩토리와 추론 클러스터를 안전하게 연결하도록 설계됐다. 이를 통해 서비스 프로바이더(SP)는 수천 개의 분산형 추론 사이트를 구축·운영할 수 있으며, 개별 AI 인프라를 하나의 지능형 시스템으로 통합해 운용할 수 있다는 설명이다.
AI 네이티브 애플리케이션은 예측 가능한 저지연 분산형 인프라를 요구한다. HPE 기반 엔비디아 AI 컴퓨팅(NVIDIA AI Computing by HPE) 포트폴리오의 일환인 HPE AI 그리드는 통합 오케스트레이션을 기반으로 실시간 AI 서비스 구현에 필요한 확장 가능한 초저지연 성능, 제로 터치 프로비저닝, 자동화된 보안을 제공한다.
라미 라힘 HPE 네트워킹 부문 총괄은 “HPE는 데이터와 사용자가 위치한 곳으로 인텔리전스를 이동시키고 네트워크를 실시간 경험을 위한 신뢰할 수 있는 패브릭으로 전환함으로써 AI 제공 방식을 재정의하고 있다”며, “엔비디아와의 협력을 통해 HPE AI 그리드는 분산형 추론 환경을 단일 시스템처럼 운영할 수 있도록 지원하는 동시에, 초저지연 성능을 기반으로 고객의 혁신을 가속화하고 새로운 서비스 창출을 가능하게 한다”고 밝혔다.
크리스 펜로즈 엔비디아 텔코 부문 글로벌 부사장은 “AI 그리드는 지리적으로 분산된 AI 클러스터를 통합해 워크로드를 최적의 위치에 배치함으로써 성능·비용·지연시간을 균형 있게 관리한다”며, “엔비디아의 가속 컴퓨팅과 네트워킹, HPE의 통신사업자급 멀티클라우드 및 엣지 인프라를 결합해 분산형 추론을 위한 단일 지능형 네트워크를 구축하고 있다”고 설명했다.
HPE AI 그리드는 서비스 프로바이더를 위해 통합된 하드웨어·소프트웨어 스택을 제공하도록 설계됐으며, 엔비디아 AI 그리드 레퍼런스 아키텍처와 부합한다. 특히 풀스택 AI 서버와 AI 네트워크를 동시에 제공할 수 있는 HPE의 역량을 기반으로 차별화를 꾀했다고 업체 측은 전했다.
주요 구성 요소로는 HPE 주니퍼 네트워킹 기반 통신사업자급 멀티클라우드 라우팅과 코히어런트 옵틱 연결성, 클라우드 네이티브 보안 및 WAN 자동화 기능이 포함된다. 또한 엔비디아 RTX PRO 6000 블랙웰 GPU를 비롯한 가속 컴퓨팅, 블루필드 DPU, 스펙트럼-X 이더넷 스위치, 커넥트-X SuperNIC 등 AI 추론 최적화를 위한 인프라가 함께 제공된다는 것이다.
HPE는 AI 그리드를 통해 리테일 개인화, 제조 예측 유지보수, 엣지 헬스케어 추론, 통신사업자급 AI 서비스 등 다양한 분야에서 초저지연 기반의 실시간 AI 서비스를 지원할 수 있다고 설명했다. 특히 기존 네트워크 및 전력 인프라를 활용해 RAN(무선접속망) 기반 AI 인프라로 확장할 수 있다는 점도 강조했다.
컴캐스트는 AI 그리드 전략의 일환으로 분산된 네트워크 환경에서 실시간 엣지 AI 추론 테스트를 진행하고 있다. 초기 테스트에서는 중소기업을 위한 AI 기반 ‘프론트 데스크’ 서비스를 구현하기 위해 HPE 프로라이언트 서버와 엔비디아 GPU를 활용한 소형언어모델(sLM) 적용 사례가 소개됐다.
업계에서도 긍정적인 반응이 이어지고 있다. 텔러스 CTO 나짐 벤하디드는 “AI를 사용자와 더 가까운 위치에서 제공하고 네트워크 최적화를 고도화하는 데 있어 중요한 솔루션”이라고 평가했다. 시티파이버 CTO 닐 맥레이 역시 “초저지연 연결성과 지능형 서비스 제공을 위한 핵심 인프라로 검토 중”이라고 밝혔다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
