RTX AI PC·DGX 스파크로 LLM 미세 조정과 맞춤형 AI 어시스턴트 구축 지원

엔비디아가 네모트론 3(Nemotron 3) 오픈 모델 제품군을 공개하고, 언슬로스(Unsloth) 프레임워크를 통해 거대 언어 모델(large language model, LLM) 미세 조정을 가속화한다고 밝혔다. 이를 통해 엔비디아(NVIDIA) RTX AI PC와 DGX 스파크(DGX Spark)에서 학습, 업무, 창작 프로젝트 등의 맞춤형 AI 어시스턴트 구축을 지원한다.

최신 워크플로우는 PC 환경에서 생성형 AI와 에이전틱 AI(agentic AI)의 무한한 가능성을 보여준다.



대표적인 활용 사례로는 제품 지원 문의를 처리하기 위한 챗봇 조정이나, 개인 일정을 관리하는 개인 비서 개발 등이 있다. 하지만 소형 언어 모델(small language model, SLM)은 전문적인 에이전틱 작업에서 높은 정확도로 일관되게 수행하는 데 여전히 어려움을 겪고 있다. 이때 필요한 것이 바로 미세 조정이다.

언슬로스는 세계에서 가장 널리 사용되는 LLM 미세 조정을 위한 오픈소스 프레임워크 중 하나로, 모델을 손쉽게 조정할 수 있는 방법을 제공한다. 언슬로스는 엔비디아 GPU 메모리 사용을 최소화한 효율적인 훈련에 최적화됐으며, 지포스(GeForce) RTX 데스크톱과 노트북부터 RTX PRO 워크스테이션, 세계에서 가장 작은 AI 슈퍼컴퓨터인 DGX 스파크에 이르기까지 다양한 엔비디아 GPU 환경에서 활용할 수 있다.

엔비디아는 미세 조정을 위한 또 다른 핵심 기반으로 엔비디아 네모트론 3 제품군을 공개했다. 제품군에는 오픈 모델, 데이터, 라이브러리가 포함된다. 네모트론 3은 탁월한 에이전틱 AI 미세 조정을 지원하며, 가장 효율적인 오픈 모델 제품군을 제공한다.

엔비디아가 새롭게 공개한 네모트론 3 오픈 모델 제품군은 나노(Nano), 슈퍼(Super), 울트라(Ultra) 세 가지 모델로 구성되며, 신규 하이브리드 전문가 혼합 방식(Mixture-of-Experts, MoE) 아키텍처 기반으로 설계됐다. 네모트론 3 제품군은 업계 선도적인 정확도와 효율성을 갖춘 오픈 모델 제품군으로, 에이전틱 AI 애플리케이션 구축에 이상적이다.

네모트론 3 나노 30B-A3B(Nemotron 3 Nano 30B-A3B)는 현재 출시된 라인업 중 가장 컴퓨팅 효율이 높은 모델이다. 소프트웨어 디버깅, 콘텐츠 요약, AI 어시스턴트 워크플로우, 낮은 추론 비용의 정보 검색 등의 작업에 최적화됐다. 

네모트론 3 슈퍼(Nemotron 3 Super)는 멀티 에이전트 애플리케이션을 위한 고정밀 추론 모델이며, 네모트론 3 울트라(Nemotron 3 Ultra)는 복잡한 AI 애플리케이션을 위한 모델이다. 두 모델은 모두 2026년 상반기에 출시될 예정이다.

또한 엔비디아는 개방형 훈련 데이터세트 모음과 최첨단 강화 학습 라이브러리를 출시했다. 네모트론 3 나노 미세 조정은 언슬로스를 통해 이용할 수 있다.