엔비디아 A100 제품 대비 2배 높은 컴퓨터 비전 및 자연어 처리(NLP) 학습 성능 제공

하바나 랩스(Habana Labs)는 인텔 비전(Intel Vision) 행사에서 인공지능 학습용 2세대  가우디 프로세서인 가우디®2 프로세서와 추론용 고야™(Goya™) 프로세서의 후속작인 그레코(Greco) 프로세서를 공개했다.

가우디2 프로세서와 그레코 프로세서는 인공지능 딥러닝 애플리케이션을 위해 특별히 개발됐으며, 7나노 공정 기반으로 제작됐다. 아울러, 하바나 랩스의 고효율 아키텍처를 기반으로 구축, 고객에게 데이터 센터 컴퓨터 비전 및 자연어 애플리케이션을 위한 고성능 모델 학습 및 추론 기능을 제공한다.



이날 하바나 랩스는 가우디2 프로세서로 컴퓨터 비전인 레스넷-50(ResNet-50)(v1.1)과 자연어 처리용 기계학습 기술(BERT) 1단계 및 2단계 워크로드 처리량 성능을 시연했다. 가우디2 프로세서는 엔비디아 A100 80GB 프로세서 대비 2배 높은 성능을 기록했다.

데이터 센터 고객의 경우, 데이터 세트와 AI 워크로드의 규모가 커지고 복잡해지면서 딥 러닝 모델 학습에 점점 더 많은 시간과 비용이 투입된다. 가우디2는 클라우드 및 온프레미스 고객에게 향상된 딥러닝 성능과 효율성 및 선택권을 제공하도록 설계되었다.

고객은 모델의 정확성과 최근성을 높이기 위해 좀 더 잦은 학습을 요구한다. IDC가 지난 2020년 발표한 조사결과에 따르면 머신 러닝(machine learning, ML) 실무자 중 74%가 5~10회, 50% 이상이 매주 또는 그 이상 모델 학습을 반복하며, 26%가 매일 또는 매시간 모델을 재구성한다. 더불어, 응답자 중 56%는 AI가 제공할 수 있는 통찰력, 혁신 및 향상된 최종 고객 경험을 활용하는 데 있어 학습 비용이 가장 큰 걸림돌이라고 답했다. 가우디 플랫폼 솔루션인 1세대 가우디와 가우디2는 증가하는 수요를 해결하기 위해 탄생했다.

100% AI용으로 설계되어 200%의 성능 제공

인공지능 학습 시간 및 운영 효율성을 높이기 위한 고객은 딥러닝 성능과 가치를 평가할 수 있는 격이 다른 학습 메트릭스를 물색하고 있다. 하바나 랩스는 인텔 비전 행사에서 가우디2 프로세서 및 기타 주요 솔루션과 성능을 비교했다. 다음 차트에는 컴퓨터 비전 및 자연어 처리 모델에 대한 타사 솔루션과 가우디2 프로세서 간 학습 성능을 포함한다.

가우디2 프로세서는 프레임워크와 통합된 전체 소프트웨어를 포함해 주요 워크로드에 대해 동일한 공정 노드 기반 A100 GPU 대비 약 2배 높은 학습 성능을 제공한다. 아래 결과를 통해, 가우디2 목적에 맞게 설계된 딥 러닝 가속 아키텍처가 근본적으로 더 효율적이라는 것을 확인할 수 있다.