Arm은 역대 최고 성능과 효율의 Ethos NPU인 Arm® Ethos™-U85 NPU와 음성, 오디오 및 비전 시스템을 가속화하는 새로운 IoT 레퍼런스 디자인 플랫폼인 Arm Corstone™-320을 출시했다.

Arm의 수석 부사장 겸 IoT 사업부 총괄인 폴 윌리엄슨(Paul Williamson)은 “엣지 AI가 확장됨에 따라 실리콘 혁신 기업들은 시스템 및 소프트웨어 복잡성 증가, AI 성능에 대한 수요 증가, 시장 출시 기간 단축에 대한 압박을 해결해야 한다. 동시에 소프트웨어 개발자는 보다 일관되고 간소화된 개발 경험과 새로운 AI 프레임워크와 라이브러리 간의 간편한 통합이 필요하다”며, “이번 새로운 기술은 이러한 증가하는 요구 사항을 해결하여 엣지 AI 배포를 가속화한다. 스타트업 혁신가부터 세계 최대 마이크로컨트롤러 기업까지, 모두가 클라우드에서 엣지까지 아우르는 AI 솔루션을 제공하기 위해 Arm 플랫폼을 선택하고 있다”고 말했다.

Arm Ethos-U85, Arm의 새로운 엣지 AI 전용 3세대 NPU
이전 제품에 비해 4배 향상된 성능과 20% 더 높은 전력 효율성을 제공하는 동시에 128에서 2,048 MAC 장치(1GHz에서 4 TOPs)로 확장되는 Ethos-U85는 공장 자동화 및 상업용과 같이 훨씬 더 높은 성능을 요구하는 애플리케이션을 지원한다. Ethos-U85는 동일하고 일관된 툴체인을 제공하므로 파트너는 기존 투자를 활용하여 원활한 개발자 경험을 제공할 수 있다. 무엇보다도, 텐서플로우 라이트(TensorFlow Lite) 및 파이토치(PyTorch)와 같은 AI 프레임워크에 대한 지원을 제공한다.

▲ Arm Ethos-U85

Ethos-U85는 AI 추론을 위한 CNN(Convolution Neural Network) 외에도 트랜스포머 네트워크(Transformer Network)를 지원한다. 트랜스포머 네트워크는 특히 영상의 이해와 이미지의 누락된 부분을 채우고, 이미지 분류 및 물체 감지를 위한 카메라의 데이터 분석 등의 작업을 위한 비전 및 생성형 AI 사용 사례에서 새로운 애플리케이션을 주도할 것으로 전망된다.

산업용 머신 비전, 웨어러블 및 소비자용 로봇과 같은 사용 사례를 위한 고성능 IoT 시스템에 마이크로프로세서가 배포됨에 따라 Arm은 선도적인 Armv9 Cortex-A CPU와 함께 작동하도록 Ethos-U85를 설계하여 머신러닝(ML) 작업을 가속화하고 광범위한 고성능 장치에 전력 효율적인 엣지 추론을 구현했다.

Ethos NPU 제품군은 현재까지 20개 이상의 파트너로부터 라이선스를 받았으며, 새로운 Ethos-U85의 얼리 어답터로는 알리프 세미콘덕터(Alif Semiconductor) 및 인피니언 테크놀로지스(Infineon Technologies)가 있다. Arm Ethos-U85에 대한 보다 자세한 내용은 여기에서 확인할 수 있다.

알리프 세미콘덕터의 공동 설립자 겸 사장인 레자 카제로니안(Reza Kazerounian)은 “차세대 엣지 AI 애플리케이션을 위한 머신러닝 워크로드는 전력 효율적인 동시에 고성능을 요구한다”며, “알리프 세미콘덕터는 Arm Cortex-M55와 Ethos-U55를 기반으로 한 엣지 AI 솔루션을 최초로 출시했으며, 미래의 엣지 AI 및 비전 사용 사례를 해결하기 위해 차세대 앙상블(Ensemble) 마이크로컨트롤러 융합 프로세서 제품군에 필요한 컴퓨팅 성능을 제공할 Arm의 최신 AI 기술인 Ethos-U85를 환영한다”고 전했다.

인피니언 테크놀로지스의 산업용 MCU, IoT, 무선 및 컴퓨팅 사업부 수석 부사장인 스티븐 타테오시안(Steven Tateosian)은 “엣지 AI 사용 사례는 더욱 정교해지고 있으며, AI 시대의 기회를 실현하기 위해서는 안전한 고성능 컴퓨팅 시스템이 필요하다”며, “인피니언은 Arm과의 오랜 파트너십을 기반으로 Arm Ethos-U85와 엣지 AI의 배포를 위한 트랜스포머 네트워크를 통해 이러한 정교한 시스템을 구현할 수 있기를 기대한다”고 말했다.

▲ Arm Corstone-320

Corstone-320, 음성, 오디오 및 비전 시스템을 가속화하는 새로운 IoT 레퍼런스 디자인 플랫폼
Arm Corstone-320 IoT 레퍼런스 디자인 플랫폼은 Arm 최고 성능의 Arm Cortex-M85 CPU, Mali-C55 이미지 신호 프로세서 및 새로운 Ethos-U85 NPU를 결합했다. 이를 통해 실시간 이미지 분류 및 사물 인식, 스마트 스피커에서 자연어 번역 기능을 갖춘 음성 어시스턴트 지원 등 음성, 오디오 및 비전을 위한 광범위한 엣지 AI 애플리케이션을 위한 성능을 제공한다. 해당 플랫폼에는 Arm 가상 하드웨어를 비롯한 소프트웨어, 툴 및 지원이 포함된다. 이러한 하드웨어와 소프트웨어의 조합은 실리콘이 출시되기 전에 소프트웨어 개발을 시작할 수 있게 함으로써 제품 일정을 단축하고, 더욱 복잡해지는 엣지 AI 디바이스의 출시 시간을 빠르게 개선할 수 있다.