Since 1959

LLM 추론 전용 LPU 기반 고효율·저비용 AI 서비스 인프라 확산 추진

하이퍼엑셀이 업스테이지 컨소시엄을 통해 정부 ‘독자 AI 파운데이션 모델(독파모)’ 협력 생태계에 합류한다.

하이퍼엑셀은 이번 컨소시엄 참여를 통해 독자 AI 모델 확산을 위한 추론 인프라 고도화 및 효율화 협력을 추진한다고 업체 측은 밝혔다. LLM 추론에 특화된 LPU 설계 및 성능 고도화, 생성형 AI 응용 환경에 최적화된 추론 가속 기술 연구개발을 기반으로 △고효율·저비용 AI 서비스 인프라 구현 △vLLM·PyTorch 기반 고가용성(HA) Full-stack 소프트웨어 스택 개발 및 제공 등을 중심 역할로 수행할 계획이다.

특히 하이퍼엑셀은 단순 반도체 공급을 넘어, 하드웨어와 서빙 소프트웨어를 통합한 구조를 구축함으로써 초거대 모델의 상용화 과정에서 요구되는 처리 효율, 전력 대비 성능, 운영 안정성을 동시에 확보하는 데 주력할 계획이다.

이를 통해 독자 AI 파운데이션 모델이 실제 데이터센터 및 산업 서비스 환경에서 경제성과 확장성을 갖춘 형태로 운영될 수 있도록 지원한다는 방침이다.

하이퍼엑셀 김주영 대표는 “초거대 AI 경쟁은 모델 규모뿐 아니라, 이를 얼마나 효율적으로 서비스할 수 있는지에 달려 있다”며, “LPU 기반의 추론 가속 기술을 통해 국내 AI 인프라의 기술 자립과 글로벌 수준의 비용 경쟁력 확보에 기여하겠다”고 밝혔다.

<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>