레드햇 AI 팩토리 위드 엔비디아 통한 AI 엔터프라이즈와 가속 컴퓨팅 소프트웨어 결합해 확장 가능한 엔드투엔드 AI 기반 제공
레드햇(Red Hat)이 엔비디아(NVIDIA)와 공동 개발한 소프트웨어 플랫폼 ‘레드햇 AI 팩토리 위드 엔비디아(Red Hat AI Factory with NVIDIA)’를 공개했다고 밝혔다.
이번 플랫폼은 레드햇 AI 엔터프라이즈와 엔비디아 AI 엔터프라이즈를 결합한 엔드투엔드 AI 솔루션으로, 대규모 AI 도입을 추진하는 기업 환경에 최적화돼 있다. 양사의 긴밀한 협업을 기반으로 개발됐으며, 기업 고객이 최신 AI 혁신 기술을 신속히 도입할 수 있도록 지원하는 동시에 엔비디아 하드웨어 아키텍처에 대한 0일 차(Day 0) 지원을 제공한다.
IDC에 따르면 에이전틱 AI 애플리케이션 확산에 따라 2029년까지 엔터프라이즈 AI 지출이 1조 달러를 넘어설 것으로 전망된다. 이에 기업들은 전략을 고밀도 에이전틱 워크플로우 중심으로 전환하고 있으며, 증가하는 AI 추론 및 인프라 수요에 대응해야 하는 상황이다. 레드햇 AI 팩토리 위드 엔비디아는 이러한 변화 속에서 IT 운영팀이 기존 인프라 관리와 함께 진화하는 AI 스택의 요구사항을 효율적으로 관리할 수 있도록 지원한다.
이 플랫폼은 프로덕션 AI 도입을 가속화하고 추론 스택을 구동하는 모델과 엔비디아 GPU의 성능을 극대화하는 가속 컴퓨팅 인프라 기반의 소프트웨어 플랫폼이다. 시스코(Cisco), 델 테크놀로지스(Dell Technologies), 레노버(Lenovo), 슈퍼마이크로(Supermicro) 등 주요 시스템 제조업체의 AI 팩토리 인프라에서 지원되며, IT 관리자와 운영팀이 일반 기업 워크로드와 동일한 수준의 운영 엄격성과 예측 가능성을 유지하면서 AI 환경을 확장·유지할 수 있도록 설계됐다.
레드햇과 엔비디아의 오픈소스 협업 역량, 엔지니어링 전문성, 기술 지원 역량을 통합한 이번 플랫폼은 온프레미스, 클라우드, 엣지 등 다양한 환경에서 AI를 배포할 수 있는 확장형 기반을 갖췄다. 보안을 중점으로 고성능 AI 추론, 모델 튜닝 및 커스터마이징, 에이전트 배포 및 관리 기능을 포함하며, 기업이 데이터센터부터 퍼블릭 클라우드까지 아키텍처 통제력을 유지할 수 있도록 지원한다.
이를 통해 기업은 간소화된 워크플로우와 사전 구성된 모델에 대한 즉각적 접근을 기반으로 프로덕션 AI 전환 시간을 단축할 수 있다. IBM 그래니트(IBM Granite), 엔비디아 네모트론(NVIDIA Nemotron), 엔비디아 코스모스(NVIDIA Cosmos) 오픈 모델을 엔비디아 NIM 마이크로서비스 형태로 제공하며, 엔비디아 네모(NVIDIA NeMo)를 활용해 기업 데이터에 맞춘 모델 튜닝을 수행함으로써 시간과 비용을 절감할 수 있다.
또한 통합된 고성능 서빙 스택을 통해 인프라 활용도를 극대화하고 추론 성능을 향상한다. 내장형 관측 기능과 vLLM 기반 레드햇 AI 추론 기능, 엔비디아 텐서RT-LLM 및 엔비디아 다이나모를 결합해 엄격한 AI 서비스 수준 목표(SLO)를 충족하도록 설계됐다. 이를 통해 모델과 GPU 간 연결을 최적화하고 AI 총소유비용(TCO)을 절감할 수 있다.
지능형 GPU 오케스트레이션 기능은 풀링된 인프라 기반으로 GPU 리소스에 대한 온디맨드 접근을 지원하며, 자동 체크포인팅을 통해 장시간 작업을 보호한다. 동시에 예측 가능한 컴퓨팅 비용을 유지할 수 있도록 돕는다.
보안 측면에서는 레드햇 엔터프라이즈 리눅스(Red Hat Enterprise Linux)를 기반으로 고급 보안 및 컴플라이언스 기능을 내장했으며, 엔비디아 DOCA 마이크로서비스를 통해 제로 트러스트 아키텍처 구현과 AI 런타임 보안을 지원한다.
크리스 라이트 레드햇 글로벌 엔지니어링 수석 부사장 겸 CTO는 “AI 실험 단계에서 산업적 규모의 전사적 프로덕션 단계로 전환하려면 AI 컴퓨팅 스택 관리 방식의 근본적인 변화가 필요하다”며, “검증된 하이브리드 클라우드 기반 위에서 고객이 핵심 IT 플랫폼과 동일한 수준의 운영 엄격성을 적용해 AI 전략을 확장할 수 있도록 지원한다”고 밝혔다.
저스틴 보이타노 엔비디아 엔터프라이즈 AI 플랫폼 부문 부사장은 “기업은 데이터를 대규모 인텔리전스로 전환하는 AI 팩토리를 구축하고 있으며, 이를 위해 프로덕션급 인프라와 소프트웨어가 필요하다”며, “이번 플랫폼은 차세대 에이전틱 AI 애플리케이션을 안정적으로 구축·배포할 수 있는 기반을 제공한다”고 말했다.
이외에도 시스코, 델 테크놀로지스, 레노버, 슈퍼마이크로, TD 시넥스, WWT 등 주요 파트너 기업들은 하이브리드 및 멀티 클라우드 환경 전반에서 AI를 대규모로 확장할 수 있도록 지원하겠다고 밝혔다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
