‘컨셉 아스트로’ 공개, 에이전틱 AI와 운영 자동화 기술을 활용한 데이터센터의 미래

델 테크놀로지스(Dell Technologies)가 자사의 솔루션 포트폴리오 전반에 걸쳐 에너지 효율성을 강화하는 가운데, AI 모델의 전력 소비를 줄이고 데이터센터 운영을 최적화 할 수 있는 ‘컨셉 아스트로(Concept Astro)’ 플랫폼을 선보였다. 

AI 워크로드가 늘어나며 데이터센터의 에너지 사용량, 비용 및 탄소 배출량이 급격히 증가하고 있다. 일각에서는 2030년까지 데이터센터의 에너지 소비량이 두 배로 증가할 수 있다고 예측하며, 이는 이미 과부하 상태인 전력망에 추가적인 부담을 줄 것이라고 진단했다.
 
데이터센터를 탄력적이며 안정적으로 운영하는 동시에 비용 효율적인 에너지 사용을 추구하는 것이 최우선 과제로 부상하고 있는 상황이다. 델 테크놀로지스는 올해 차세대 서버를 잇따라 출시하며 CPU 전력 소비를 최대 65%까지 절감하고, 냉각 기술을 혁신하는 한편 최적화를 위한 관리 소프트웨어를 고도화하고 있다. 

델 테크놀로지스가 새롭게 공개한 ‘컨셉 아스트로’는 에이전틱 AI, 디지털 트윈, 운영 자동화 기술을 결합한 IT 인프라 최적화 솔루션이다. 이 솔루션은 IT 업무, 특히 AI 워크로드가 소비하는 에너지를 실시간으로 측정하고, 전력 비용과 탄소 배출량을 정보를 바탕으로 데이터센터 운영을 위한 의사결정을 돕는다. 

특히 디지털 트윈 기술을 이용해 워크로드가 어느 시점, 어느 장소에서 실행되는 것이 가장 효율적인지 가늠할 수 있는데, 예를 들어 대시보드를 통해 데이터센터 내 사용 가능한 전력을 시각적으로 제공해 더 효율적인 전력을 분배할 수 있다. 또한 에이전틱 AI 기술을 이용해 인간의 개입 없이도 해당 작업이 마무리되는 시간을 예측하고, 전력망에서 제공되는 에너지 단가 및 탄소 배출량을 고려해 실행 시점을 결정할 수 있다. 

컨셉 아스트로는 연구원이나 설비 관리자, 데이터센터 운영자는 물론 CFO나 CIO까지 다양한 역할에 맞춰 보고서를 제공한다. 실시간 인사이트를 수집하여 데이터 센터 전반에 대한 포괄적인 관점을 제공하기 때문에, 비즈니스 성과를 저해하지 않으면서도 에너지 비용을 절감하는 최적의 방안을 도출할 수 있다. 

델 테크놀로지스는 현재 ‘컨셉 아스트로’를 활용해 대규모 구현을 위해 연구를 지속하고 있다. 이번 버전에서는 디지털 트윈을 활용해 워크로드를 시뮬레이션하여 인사이트를 추출하고, 전력망 데이터에 기반해 데이터 센터의 전력을 더 효율적으로 활용하는 방법을 식별한다. ‘컨셉 아스트로’는 모니터링 스위트 제품인 ‘델 AI옵스(Dell AIOps)’를 기반으로 하며, ‘AI옵스 어시스턴트(AIOps Assistant)’를 통해 제공되는 기능들을 포함하고 있다. 

델 테크놀로지스는 ‘컨셉 아스트로’의 구현 범위를 테스트하기 위해 캘리포니아 대학교 샌디에고 캠퍼스(University of California San Diego)의 스크립스 해양학 연구소(Scripps Institution of Oceanography)와 협력해 산호초 연구를 고도화시키고 있다. 연구팀은 ‘엔비디아 기반 델 AI 팩토리(Dell AI Factory with NVIDIA)’를 사용해 수중 이미지 수백만 장을 고해상도 3D 모델로 변환해 전 세계 산호초의 상태를 확인하고 있다. 한 번의 다이빙에서 약 350GB의 이미지를 수집하며, 연간 300~400회의 입수를 실시하고 있으며, 이러한 이미지를 처리하려면 상당한 컴퓨팅 및 저장 용량이 요구된다. 

최근 시행된 시범 운영에서 ‘컨셉 아스트로’는 비용, 속도, 배출량 등의 요소들을 조합하여 워크로드를 실행하는 최적의 시간과 위치를 스크립스 연구소에 제안했다. 연구 팀은 제안에 따라 최적의 에너지 사용 시간대에 워크로드를 일정화함으로써 전력망 부담을 최소화하고, 연구 연속성을 유지함으로써 비용을 20% 절감하고 배출량을 32% 감소시켰다.2) 또한, 기존 데이터 센터 장비를 ‘엔비디아 기반 델 AI 팩토리’로 업그레이드하며 델의 최신 세대 서버에서 기존보다 시간당 두 배 더 많은 이미지를 처리할 수 있게 됐다. 

김경진 한국 델 테크놀로지스 총괄사장은 “AI로 촉발된 데이터센터 에너지 비용 급증은 점진적인 개선만으로 충분하지 않다. 보다 혁신적인 접근 방식이 필요하기 때문에 델은 AI 기반 워크로드 스케줄링과 같은 미래지향적인 개념을 도입하고, 데이터센터 전력에 대한 수요와 공급을 최적화하고자 한다. 전력망 탄력성을 강화함으로써 의미 있는 진일보를 이뤄낼 수 있을 것으로 기대한다”고 말했다.