엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 데이터 사이언티스트, 연구원, 학생, 개발자를 위한 50개 이상의 새로운 툴과 교육 자료를 공개했다.

대화형 AI, 레이 트레이싱, 엔비디아 딥러닝 인스티튜트(DLI)의 핸즈온 실습 등을 포함한 해당 자료는 모든 엔비디아 개발자 프로그램(Developer Program) 회원을 위해 제공된다. 엔비디아 개발자 프로그램에는 250만 명 이상의 개발자가 참여하고 있으며, 컴퓨팅 가속화를 통해 업계에 혁신을 일으키고 있다.

성공을 지원하는 교육
새롭고 진보된 소프트웨어 개발 기술을 배우는 것은 취업 경쟁력을 높이는 데 필수적이다. DLI는 AI, 데이터 사이언스, 가속 컴퓨팅 분야를 포함한 광범위한 주제에 대해 포괄적인 학습 경험을 제공한다. 핸즈온 실습, 자기주도형 학습, 강사 주도 학습 형태로 진행된다.

DLI의 5개의 과정에서는 딥러닝, 데이터 사이언스, 자율주행, 대화형 AI 등을 포함한 주제를 다룬다. 모든 과정에 핸즈온 실습이 포함돼 빠른 교육을 돕고, 학습 자료를 숙달할 수 있도록 한다. DLI 워크샵은 엔비디아 인증 강사 주도로 진행되며, 수강생은 클라우드 상에서 완전히 구성된 GPU 가속 서버에 액세스 할 수 있다.

현재 이용 가능한 새로운 자기주도형 학습은 다음과 같다.

• 딥러닝 시작
• 엔드-투-엔드 데이터 사이언스 워크플로우 가속화
• 엔비디아 드라이브(DRIVE) 센서 통합

실시간 가상 학습실에서 올데이 강사 주도형 워크샵이 제공될 예정이며, 다음과 같이 진행된다.

• 데이터 엔지니어링 파이프라인 가속화
• 대화형 AI 애플리케이션 구축

강사 주도형 워크샵은 기업 고객과 일반 대중이 이용할 수 있다. DLI는 최근 인기있는 강사 주도형 과정을 일반 대중에게 공개하며, 개발자, 데이터 사이언티스트, 연구자, 학생을 대상으로 접근성을 높였다.

한국 내 DLI 및 교육 문의는 엔비디아 DLI 팀 이메일(nvdli@nvidia.com)로 하면 된다.

신규 및 가속화된 소프트웨어 개발 키트(SDK), 업데이트된 기술 툴
SDK는 애플리케이션의 성능을 생성하거나 중단할 수 있는 핵심 구성요소다. 고성능컴퓨팅(HPC), 컴퓨터 비전, 데이터 사이언스, 대화형 AI, 추천 시스템, 실시간 그래픽을 위한 수십 개의 신규 및 업데이트된 키트가 제공되어 개발자들이 모든 과제를 해결할 수 있도록 한다. 개발자가 애플리케이션 개발을 가속화할 수 있도록 업데이트된 툴도 제공한다.

NGC는 수백 개의 SDK, AI, 머신러닝, HPC 컨테이너, 사전 훈련된 모델, 헬름 차트(Helm chart) 등으로 구성된 카탈로그를 갖춘 AI 및 HPC 소프트웨어를 위한 GPU 최적화 허브다. 개발자는 사전 훈련된 모델을 통해 컴퓨터 비전 및 음성 등 다용한 사용 사례에 AI 프로젝트를 시작할 수 있다.

TAO(Train, Adapt, Optimize)는 엔터프라이즈 AI 애플리케이션 및 서비스 생성을 단순화하고 가속화하는 GUI, 워크플로우 기반 프레임워크다. 기업은 전이학습 및 연합학습을 사용해 사전 훈련된 모델을 미세 조정하여 도메인 특화된 모델을 몇 시간 내에 제작할 수 있다. 대규모 교육과 심층 AI 지식 없이 가능하다. 여기에서 자세히 확인할 수 있다.

신규 및 업데이트된 SDK와 프레임워크는 현재 이용 가능하며, 다음과 같다.

• 자비스(Jarvis)는 멀티모달 대화형 AI 서비스 구축을 위한 완전 가속화된 애플리케이션 프레임워크다. 엔비디아 DGX 시스템에서 수천 시간 동안 사전 훈련된 최첨단 모델, 코딩이 필요없이(zero coding) 해당 모델을 도메인에 적응시키기 위한 전이학습 툴킷(Transfer Learning Toolkit), 실시간 최적화된 엔드-투-엔드 스피치, 비전, 언어 파이프라인을 포함한다. 여기에서 자세히 확인할 수 있다.

• 맥신(Maxine)은 개발자들이 화상회의, 라이브 스트리밍 등 가상 협업과 콘텐츠 제작 애플리케이션을 구축할 수 있는 최첨단 AI 기능을 갖춘 GPU 가속 SDK다. 비디오 효과, 오디오 효과, 증강 현실을 포함한 맥신 AI SDK는 고도로 최적화됐으며, 엔드-투-엔드 파이프라인으로 연결돼 PC와 데이터센터 모두에서 최고의 성능을 제공할 수 있는 모듈형 기능을 포함하고 있다. 여기에서 자세히 확인할 수 있다.

• 멀린(Merlin)은 현재 오픈 베타 상태로 제공되는 애플리케이션 프레임워크다. 이를 통해 엔비디아 GPU에서 데이터 사전 처리, 모델 훈련, 추론까지 가속화된 딥 러닝 추천 시스템을 개발할 수 있다. 여기에서 자세히 확인할 수 있다.

• 딥스트림(DeepStream)은 지연시간(레이턴시)가 짧고, 복잡한 고성능 비디오 애널리틱스 애플리케이션과 서비스를 구축하기 위한 AI 스트리밍 애널리틱스 툴킷이다.

• 트리톤(Triton) 추론 서버는 팀이 GPU 또는 CPU 기반 인프라의 로컬 스토리지 또는 클라우드 플랫폼에서 모든 프레임워크에서 훈련된 AI 모델을 배치할 수 있도록 한다.

• 고성능 딥러닝 추론을 위한 텐서RT(TensorRT)는 딥러닝 추론 애플리케이션을 위한 낮은 지연시간과 높은 처리량을 제공하는 딥러닝 추론 최적화 툴과 런타임이 포함돼 있다. 텐서RT 8은 고성능 INT8 정밀도를 사용하면서 FP32와 유사한 정밀도를 달성하는 변압기 기반 모델과 새로운 기술에 대해 2배 빠른 속도를 제공한다.

• RTX 기술은 개발자가 게임을 효율적으로 활용하고 현실감을 더하도록 다양한 기능을 지원한다.
o DLSS는 그래픽 개발자가 프로젝트를 위해 프레임률을 높이고 아름답고 정교한 이미지를 생성하도록 돕는 딥 러닝 신경망이다. 여기에는 레이 트레이싱 설정을 극대화하고 출력 해상도를 높이는 성능 헤드룸이 포함된다. 유니티(Unity)는 엔비디아 DLSS가 유니티 엔진 2021.2에서 기본적으로 지원될 것이라고 발표했다.
o RTX 다이렉트 일루미네이션(RTXDI)을 사용하면 성능이나 리소스 제약에 대한 걱정 없이 수백만개의 동적 조명이 있는 장면을 실시간으로 렌더링할 수 있다.
o RTX 글로벌 일루미네이션(RTXGI)은 레이 트레이싱 기능을 활용해 브레이크 타임, 빛 누출 또는 고가의 프레임당 비용 없이 멀티 바운스 간접 조명을 확장적으로 계산한다.
o 실시간 노이즈 제거기(NRD)는 낮은 픽셀당 광선 신호로 작동하도록 설계된 시공간 API 애그노스틱(API-Agnostic)노이즈 라이브러리이다