엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 아마존웹서비스(AWS)와 협력해 고객들이 엔비디아 젯슨(NVIDIA® Jetson™)을 통해 수백만 커넥티드 디바이스에서 인공지능(AI)과 딥 러닝(Deep Learning)을 구현할 수 있도록 지원한다고 밝혔다.

양사의 공동 솔루션으로 AWS 서비스 상에서 더욱 쉽게 모델을 생성, 트레이닝 및 최적화할 수 있으며, AWS IoT 그린그래스(AWS IoT Greengrass)를 사용해 모델을 젯슨 기반 엣지 디바이스(edge device)에 배포할 수 있다.

최첨단 AI를 고성능 및 전력 효율적인 컴퓨팅으로 제공하는 엔비디아 젯슨 플랫폼은 유통, 제조, 농업 등 다양한 산업에 걸쳐 오토노머스 머신 및 스마트 카메라 등에 적용된다.

AWS IoT 그린그래스는 AWS 서비스를 머신 러닝 추론을 포함해 엣지 디바이스까지 완벽하게 확장함으로써, 관리, 분석, 내구성 뛰어난 스토리지를 위해 클라우드를 사용하면서 생성된 데이터를 로컬에서 실행할 수 있다. 젯슨 기반 디바이스는 AWS IoT 그린그래스를 사용해 실시간에 가까운 행동이 이뤄질 수 있도록 엣지에서 추론을 수행한다. 이후, 데이터를 아마존 세이지메이커(Amazon SageMaker)와 같은 머신 러닝 서비스로 보내 모델 정확도를 향상시킨다.

젯슨은 엔비디아 젯팩(NVIDIA JetPack™)을 비롯한 포괄적 소프트웨어 도구 및 SDK 세트와 함께 제공된다. MXNet, 카페(Caffe), 텐서플로우(TensorFlow), 파이토치(PyTorch) 등 다양한 프레임워크를 지원하므로, 개발자들은 이러한 알고리즘을 사용해 실제 애플리케이션을 신속히 배포할 수 있다.

엔비디아 오토노머스 머신 담당 총괄 겸 부사장 디푸 탈라(Deepu Talla)는 “젯슨은 세계에서 가장 빠른 슈퍼컴퓨터를 구동하는데 사용되는 것과 동일한 아키텍처와 통합 소프트웨어를 기반으로 하는 고성능 컴퓨터”라며, “우리는 젯슨 AGX 자비에(Jetson AGX Xavier)에 새로운 젯슨 나노(Jetson Nano)를 제공하므로, 소형 사물인터넷(IoT) 디바이스부터 강력한 IoT 게이트웨이까지 IoT 디바이스를 확장할 수 있다”고 말했다.

젯슨과 AWS IoT 그린그래스를 활용해 IoT 디바이스에서 실행할 수 있도록 최적화된 머신 러닝 모델을 쉽게 배포할 수 있다. 고객은 데이터를 클라우드로 먼저 보내는 대신, 젯슨 기반 디바이스에서 바로 실시간 추론을 실행해 대역폭과 비용을 절감할 수 있다.

젯슨으로 보다 다양한 영역에 AI를 적용할 수 있게 됐다. 고정밀 농업의 경우, AWS IoT 그린그래스에서 실행되는 젯슨 기반 카메라는 거의 실시간으로 잡초를 겨냥하고 이전에 식별되지 않은 잡초를 포착하며, 클라우드에 변칙행위 내용을 업로드해 신속히 모델을 리트레이닝하고 배포한다. 이러한 강력한 기술 조합으로 한층 스마트하고 효율적인 농업을 구현해 세계 인구 증가로 인한 식량 문제에 대처할 수 있다.

자동화 광학 검사의 경우, 제조 현장에서 제품 결함을 신속히 확인해 제조 조립 라인 상의 지연을 방지할 수 있다. 이를 통해 생산성이 증가하고 손실이 최소화돼 전반적인 운영 효율이 향상된다.

유통 분야에서 젯슨 기반 디바이스는 트레이닝된 신경망을 배포하기 위해 AWS IoT 그린그래스를 통해 재고, 고객 행동, 결제 상황을 모니터링 하고, 엣지 데이터를 처리할 수 있다. 이는 유통 업계에 운영 효율과 확장성을 제공한다.

AWS는 이번 주에 진행하는 엔비디아 GTC에서 젯슨 디바이스로 실행되는 다양한 IoT, 머신 러닝, 로봇 데모 시연을 선보일 예정이다. AWS 부스 1221 또는 젯슨 파빌리온 1543, 1545를 방문해 실제 적용된 AWS IoT 그린그래스와 젯슨을 확인해 볼 수 있다.