엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 아마존웹서비스(AWS)와 협력해 21개의 엔비디아 NGC 소프트웨어 리소스를 AWS 마켓플레이스(AWS Marketplace)에서 제공한다고 밝혔다. AWS 마켓플레이스는 고객들이 AWS에서 실행되는 소프트웨어와 서비스를 빠르게 찾고 구입해 사용하도록 지원하고 있다.

NGC는 소프트웨어 카탈로그로, 엔비디아 A100 텐서 코어(Tensor Core) GPU의 전례없는 성능을 제공하는 아마존 EC2 P4d 인스턴스와 같은 엔비디아 GPU 클라우드 인스턴스에서 실행되도록 최적화됐다. AWS 고객은 해당 소프트웨어를 무료로 배포해 인공지능(AI) 구축을 가속화할 수 있다.

엔비디아는 2017년부터 자사의 NGC 카탈로그를 통해 GPU 최적화 소프트웨어를 공급해왔다. 이후, 이러한 자원에 대한 업계의 수요는 급증했다. 현재 25만명 이상의 순 방문자(unique user)가 카탈로그에서 사용가능한 백만 개 이상의 AI 컨테이너, 사전 훈련된 모델, 애플리케이션 프레임워크, 헬름 차트(Helm charts) 및 기타 머신 러닝 리소스를 다운로드 받았다.

AWS, 클라우드 업체 최초로 마켓플레이스에서 NGC 카탈로그 제공
AWS는 NGC 카탈로그를 자사의 마켓플레이스에 제공하는 최초의 클라우드 서비스 제공업체다. 많은 기업들이 새로운 구축 작업을 위해 클라우드를 우선적으로 고려하고 있는 가운데, 데이터 사이언티스트와 개발자들이 쉽게 이용할 수 있는 NGC 소프트웨어는 이를 보다 효과적으로 시작하는데 도움이 될 수 있다. NGC를 통해 기업은 AWS 생태계 내에서 새로운 AI 프로젝트를 쉽게 시작할 수 있다.

AWS의 AWS 마켓플레이스 담당 이사 크리스 그루스(Chris Grusz)는 “AWS와 엔비디아는 컴퓨팅 성능을 향상시키기 위해 10년 이상 협력해왔으며, 엔비디아 NGC 카탈로그를 AWS 마켓플레이스에 제공하게 되어 기쁘다”고 말했다. 그는 이어 “이제 엔비디아 NGC 소프트웨어를 AWS 마켓플레이스에 직접 사용할 수 있으며, 고객은 이러한 전문 소프트웨어 리소스를 AWS에서 직접 액세스하고 구축함으로써 AI 구축 파이프라인을 간소화하고 속도를 높일 수 있다”고 설명했다.

AWS 마켓플레이스에 출시된 NGC AI 컨테이너
NGC 카탈로그는 데이터 사이언티스트와 개발자가 AI 기반 솔루션을 구축하고 배포하는 것을 지원하기 위해 수백 개의 엔비디아 GPU 가속 머신 러닝 프레임워크와 산업별 소프트웨어 개발 키트를 제공한다. NGC는 AWS 마켓플레이스에서 다음과 같은 헬스케어, 추천 시스템, 대화형 AI, 컴퓨터 비전, 고성능컴퓨팅(HPC), 로보틱스, 데이터 사이언스, 머신 러닝 분야에서 엔비디아의 가장 인기있는 GPU 가속 AI 소프트웨어를 제공한다.

 엔비디아 AI: MXNet, 텐서플로우(TensorFlow), 엔비디아 트리톤(Triton) 추론 서버, 파이토치(PyTorch)를 포함한 프레임워크 및 툴 스위트

 엔비디아 클라라(Clara) 이미징: 의료 영상 활용 사례를 위한 딥 러닝 훈련 및 추론을 가속화하는 엔비디아의 도메인 최적화 애플리케이션 프레임워크

 엔비디아 딥스트림 SDK(DeepStream SDK): 엣지에 구축하고, 모든 클라우드에 연결할 수 있는 확장가능한 멀티 플랫폼 비디오 애널리틱스 프레임워크

 엔비디아 HPC SDK: HPC를 위한 컴파일러, 라이브러리, 소프트웨어 툴

 엔비디아 아이작(Issac) Sim 머신 러닝 훈련: 로보틱스 머신러닝 엔지니어가 아이작 Sim으로 합성 이미지를 생성해 물체 감지 딥 뉴럴 네트워크를 훈련시킬 수 있도록 지원하는 툴킷

 엔비디아 멀린(Merlin): 대규모 딥 러닝 추천 시스템을 구축하기 위한 개방형 베타 프레임워크

 엔비디아 네모(NeMo): 최신 대화형 AI 모델을 개발하기 위한 오픈소스 파이썬(Python) 툴킷

 래피즈(RAPIDS): 오픈소스 데이터 사이언스 소프트웨어 라이브러리 스위트

성능 최적화된 AI 소프트웨어에 즉시 액세스 가능
AWS 마켓플레이스의 NGC 소프트웨어는 데이터 사이언티스트와 개발자가 AI의 성공을 위한 기반을 구축하는데 필요한 많은 이점을 제공한다.

 보다 빠른 소프트웨어 검색: 개발자와 데이터 사이언티스트는 AWS 마켓플레이스를 통해 클릭 한 번만으로 엔비디아 AI 소프트웨어의 최신 버전에 액세스 가능하다.

 최신 엔비디아 소프트웨어: AWS 마켓플레이스의 NGC 소프트웨어는 연합되어, NGC 카탈로그에 제공되는 즉시 AWS 사용자는 최신 버전에 액세스할 수 있다. 소프트웨어는 지속적으로 최적화되며, 월간으로 릴리즈되어 사용자에게 최신 기능과 성능 향상을 제공한다.

 단순화된 소프트웨어 구축: 아마존 EC2(Amazon EC2), 아마존 세이지메이커(Amazon SageMaker), 아마존 ECS(Amazon Elastic Container Service)의 사용자는 모든 AWS 콘솔에서 엔비디아 GPU 인스턴스 내의 NGC 소프트웨어를 신속하게 구독, 가져오기, 및 실행할 수 있다. 또한 아마존 세이지메이커 사용자는 먼저 컨테이너를 아마존 ECR(Amazon Elastic Container Registry)에 저장할 필요가 없어 워크플로우를 간소화할 수 있다.

 지속적인 통합 및 개발: NGC 헬름 차트는 데브옵스(DevOps)팀이 서비스를 신속하고 일관되게 구축할 수 있도록 AWS 마켓플레이스에서도 제공된다.