‘레드햇 AI 엔터프라이즈’, AI 라이프사이클 통합…AI 인프라부터 프로덕션 레디 에이전트까지 연결
레드햇(Red Hat)이 하이브리드 클라우드 전반에서 AI 모델과 에이전트, 애플리케이션을 배포하고 관리할 수 있는 통합 AI 플랫폼 ‘레드햇 AI 엔터프라이즈(Red Hat AI Enterprise)’를 출시했다고 발표했다.
이 솔루션은 레드햇 AI 인퍼런스 서버(Red Hat AI Inference Server), 레드햇 오픈시프트 AI(Red Hat OpenShift AI), 레드햇 엔터프라이즈 리눅스 AI(Red Hat Enterprise Linux AI)를 포함하는 레드햇 AI 포트폴리오에 새롭게 추가된다. 또한 레드햇은 ‘레드햇 AI 3.3(Red Hat AI 3.3)’를 출시하며 전 AI 포트폴리오 전반에 걸쳐 주요 업데이트와 개선 사항을 제공한다. 이러한 솔루션은 리눅스와 쿠버네티스 기반 인프라에 고급 추론 및 에이전트 기능을 통합한 포괄적인 ‘인프라부터 에이전트까지(metal-to-agent)’ 스택을 제공한다. 이를 통해 기업이 단편적인 실험 단계에서 벗어나 거버넌스를 갖춘 자율 운영 단계로 전환할 수 있도록 지원한다.
엔터프라이즈AI는 단순한 채팅 인터페이스에서 기술 스택 전반의 긴밀한 통합이 필요로 하는 고밀도 자율형 에이전트 워크플로우로 빠르게 전환되고 있다. 그러나 많은 기업은 분산된 도구와 일관성 없는 인프라로 인해 여전히 ‘파일럿 단계’에 머물러 있다. 레드햇 AI 엔터프라이즈는 모델과 애플리케이션의 라이프사이클을 통합함으로써 이러한 문제를 해결한다. 이를 통해 IT 조직이 AI를 사일로 프로젝트(siloed project)가 아닌 표준화된 엔터프라이즈 시스템으로 관리할 수 있도록 지원하며, 기존 엔터프라이즈 소프트웨어 수준의 안정성과 재현성을 갖춘 AI 운영을 가능하게 한다.
레드햇 AI 엔터프라이즈, AI 프로덕션을 위한 기반
레드햇 AI 엔터프라이즈는 고성능 AI 추론, 모델 튜닝 및 커스터마이징, 에이전트 배포 및 관리를 포함한 핵심 기능을 제공하며, 모든 환경에서 모든 모델과 하드웨어를 유연하게 지원한다고 업체 측은 밝혔다. 또한 업계 선도 쿠버네티스 기반 하이브리드 클라우드 애플리케이션 플랫폼인 레드햇 오픈시프트(Red Hat Openshift)를 중심으로 설계되어 익숙한 툴과 프레임워크를 활용해 어디서나 높은 확장성과 일관성, 강화된 보안을 제공한다. 레드햇은 엔비디아(NVIDIA) AI 인프라를 위해 엔비디아와 ‘레드햇 AI 팩토리 위드 엔비디아(Red Hat AI Factory with NVIDIA)’를 공동 개발했다. 이는 레드햇 AI 엔터프라이즈와 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)를 결합해 기업의 프로덕션 AI 도입을 보다 빠르고 확장 가능하게 지원한다는 설명이다.
업체 측이 밝힌 레드햇 AI 엔터프라이즈의 주요 이점은 다음과 같다.
l vLLM 추론 엔진과 llm-d 분산 추론 프레임워크를 활용해 하이브리드 하드웨어 환경 전반에서 생성형 AI 모델 배포를 최적화함으로써 보다 빠르고 비용 효율적이며 확장 가능한 AI 추론을 지원한다.
l 관측성과 라이프사이클 관리를 통합해 통합·검증·상호운용이 가능한 엔터프라이즈 레디 AI 스택을 기반으로 AI 라이프사이클 거버넌스를 강화하고 운영 리스크를 완화한다.
l 신뢰할 수 있는 레드햇 플랫폼을 기반으로 기업이 필요한 환경 어디에서나 AI 모델과 에이전트, 애플리케이션을 보다 일관성 있게 배포하고 관리할 수 있도록 지원하여 하이브리드 클라우드 전반의 유연성을 제공한다.
레드햇 AI 3.3으로 전략적 유연성과 풀스택 효율성 확장
레드햇의 전략은 미션 크리티컬 환경의 안정성과 첨단 혁신을 하나의 플랫폼에서 연결하는 데 중점을 둔다. 이번 소프트웨어 업데이트는 모델 선택 범위를 넓히고 차세대 반도체를 위한 풀스택 최적화를 강화하며 최신 모델 환경에서의 운영 일관성을 고도화했다고 업체 측은 전했다.
주요 신규 기능 및 향상된 사항은 다음과 같다.
l 오픈시프트 AI 카탈로그(OpenShift AI Catalog)를 통해 검증된 프로덕션 레디 경량화 버전의 미스트랄-라지-3(Mistral-Large-3), 네모트론-나노(Nemotron-Nano), 아페르투스-8B-인스트럭트(Apertus-8B-Instruct)를 제공함으로써 모델 생태계를 확장한다. 또한 이번 출시는 희소 주의(sparse attention) 기능을 갖춘 미니스트랄 3(Ministral 3)과 딥시크-V3.2(DeepSeek-V3.2) 등 최신 모델의 배포를 지원하며, 위스퍼(Whisper) 속도 3배 향상, 지리공간(geospatial) 지원, 향상된 이글(EAGLE) 추측 디코딩(speculative decoding), 에이전트 워크플로우를 위한 향상된 툴 호출 기능 등 멀티모달 기능 개선도 함께 제공한다.
l 서비스형 모델(Models-as-a-Service, 이하 MaaS) 기술 프리뷰를 통해 AI 모델에 대한 셀프서비스 접근을 지원한다. IT 조직은 API 게이트웨이를 통해 사내에 호스팅된 모델을 셀프서비스 접근 방식으로 제공할 수 있다. 이러한 중앙 집중형 접근 방식은 내부 사용자가 필요시 AI를 즉시 활용할 수 있도록 보장해, 기업 내 프라이빗하고 확장 가능한 AI 도입을 촉진하는 즉시 사용 가능한 AI 기반을 조성한다.
l 인텔(Intel) CPU를 시작으로 CPU 기반 생성형 AI 지원에 대한 기술 프리뷰를 포함해 하드웨어 지원을 확대한다. 이를 통해 보다 비용 효율적인 소형 언어 모델(SLM) 추론을 지원하며, 엔비디아 블랙웰 울트라(NVIDIA Blackwell Ultra)에 대한 하드웨어 인증 확대와 AMD MI325X 가속기 지원도 추가했다.
l 신규 레드햇 AI 파이썬 인덱스(Red Hat AI Python Index)를 통해 데이터부터 모델까지의 라이프사이클을 통합하고 보안을 강화한다. 이 신뢰할 수 있는 저장소는 도클링(Docling), SDG 허브(SDG Hub), 트레이닝 허브(Training Hub) 등 핵심 도구의 강화된 엔터프라이즈급 버전을 제공해, 팀이 단편적인 실험에서 보안 중심의 반복 가능한 프로덕션 파이프라인으로 전환하도록 지원한다.
l 모델의 상태, 성능 및 동작에 대한 가시성을 높여 포괄적인 AI 관측성과 안전성을 제공한다. 이는 AI 워크로드, llm-d 배포, MaaS 클러스터 및 모델 사용에 대한 실시간 텔레메트리(telemetry) 기능을 제공하며, 통합 네모 가드레일스(NeMo Guardrails) 기술 프리뷰와 함께 제공되어 개발자가 AI 상호작용 전반에서 운영 안전성과 정렬성을 강화할 수 있도록 지원한다.
l 지능형 오케스트레이션과 풀링된 하드웨어 접근을 통해 기업이 자체 서비스형 GPU(GPU-as-a-Service) 역량을 구축하도록 지원함으로써 GPU 리소스에 대한 온디맨드 접근을 제공한다. 장시간 실행되는 훈련 작업의 상태를 자동 체크포인팅(checkpointing)으로 저장해 작업 손실을 방지하고, 동적이거나 선점 가능한(preemptible) 환경에서도 보다 예측 가능한 컴퓨팅 비용을 유지한다.
조 페르난데스(Joe Fernandes) 레드햇 AI 사업 부문 부사장 겸 총괄은 “AI가 실질적인 비즈니스 가치를 창출하려면 독립된 사일로가 아닌 기업 소프트웨어 스택의 핵심 구성 요소로 운영돼야 한다”며, “레드햇 엔터프라이즈 리눅스와 레드햇 오픈시프트에 고급 튜닝 및 에이전트 기능을 통합함으로써 GPU 가속 하드웨어부터 비즈니스 로직을 구동하는 모델과 에이전트에 이르는 전체 스택을 제공한다”고 밝혔다. 이어, “또한 레드햇 AI 3.3을 통해 기업은 단편적인 파일럿 단계를 넘어 하이브리드 클라우드 전반에서 거버넌스를 갖추며 반복 가능하고 고성능의 AI 운영 환경을 구현할 수 있다”라고 말했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
