슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 AI 솔루션 포트폴리오 확장을 통해 공공 장소, 소매점 또는 산업 인프라와 같은 엣지 로케이션에서의 AI 성능 및 기능을 활용을 지원한다. 슈퍼마이크로의 애플리케이션 최적화 서버는 엔비디아 GPU를 탑재했으며, 사전 훈련된 모델의 미세 조정이 수월하도록 지원하고, 데이터가 생성되는 엣지에 AI 추론 솔루션을 배포해 응답 시간 및 의사 결정의 개선을 돕는다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 “슈퍼마이크로는 가장 광범위한 엣지 AI 솔루션 포트폴리오를 지녀, 고객의 엣지 환경에 맞춰 사전 훈련된 모델을 지원할 수 있다"며, “슈퍼마이크로는 기업이 엣지 로케이션에서 AI 데이터를 처리해 경쟁력을 구축할 수 있도록 업계에 최적화된 솔루션을 지속 제공하고 있다”고 덧붙였다.

이어서 “슈퍼마이크로 하이퍼-E 서버는 5세대 인텔 제온 프로세서 2개를 기반으로 최대 3개의 엔비디아 H100 텐서 코어 GPU 탑재가 가능하며, 이로 인해 엣지 AI에 탁월한 성능을 제공한다. 여기에는 최대 8TB의 메모리가 탑재돼 엣지 로케이션에서 데이터센터 수준의 AI 처리 능력을 발휘할 수 있도록 한다”고 설명했다.

슈퍼마이크로의 최첨단 서버는 처리가 필요한 데이터를 클라우드로 다시 전송하는 과정 없이, 각 엣지에서 필요한 정보를 다시 불러올 수 있도록 지원한다. 고객은 엔비디아 AI 엔터프라이즈를 통해 엣지 로케이션에서 직접 성능 최적화 및 사전 훈련된 거대언어모델(Large Language Model; LLM)을 활용할 수 있다. 이를 통해 데이터 원천과 가까운 위치에서 실시간으로 정확한 의사결정을 내릴 수 있다.

케빈 코너스(Kevin Connors) 엔비디아 월드와이드 OEM 어카운트 부사장은 “엣지에서의 AI 활용에 대한 관심은 헬스케어, 소매, 제조, 자동차 등 산업 전반에서 증가하고 있다"며 “새로운 슈퍼마이크로 포트폴리오는 엔비디아 인증 시스템을 통과했으며, 엔비디아 AI 플랫폼을 기반으로 최고 수준의 가속 컴퓨팅 인프라를 제공하도록 설계됐다. 또한 엔비디아 AI 엔터프라이즈 소프트웨어가 탑재 돼있어 엣지 AI 워크로드 실행을 용이하게 한다”고 이야기했다.

슈퍼마이크로의 하이퍼-E(Hyper-Edge) 서버 SYS-221HE가 대표적인 예이다. 해당 서버는 엣지 트레이닝 및 추론에 최적화되어 있으며, 깊이가 얕은 전면 I/O 시스템에서 듀얼 소켓 CPU를 지원한다. 이 시스템은 엔비디아 H100, A10, L40S, A40 및 A2 GPU를 포함한 최대 3개의 이중 폭 엔비디아 텐서 코어 GPU를 수 있다. 해당 GPU는 슈퍼마이크로 하이퍼-E가 데이터 수집, 분석 및 저장하는 엣지 환경에서 AI 작업 부하를 처리할 수 있는 수준의 컴퓨팅 성능을 제공한다. 전면 또는 후면 서비스 옵션이 제공되므로 다양한 환경에서 설치가 가능하다. 에비덴(Eviden)은 전통적인 소매점에서의 쇼핑 경험을 향상하는 엣지 AI 솔루션을 제공하며, 이와 같은 파트너는 슈퍼마이크로 하이퍼-E서버의 성능과 유연성을 잘 보여준다.

슈퍼마이크로의 고급 엣지 서버는 다음을 포함한다.

• SYS-621C-TNR12R(CloudDC 제품군): 클라우드 데이터센터용 올인원 랙마운트 플랫폼. 컴팩트한 2U 시스템에 이중 폭 GPU를 최대 2개까지 지원하는 25.5인치 섀시와 전체 NVMe 지원 옵션을 갖춘 4~12개의 SATA/SAS 드라이브 베이를 제공한다.

• SYS-111E-FWTR: 고밀도 엣지 시스템으로 1U의 높이, 5세대 인텔 제온 프로세서, 2개의 PCIe 5.0 x16 FHFL 슬롯을 갖추고 있다. 이로 인해 광범위한 네트워킹 및 엣지 애플리케이션에 이상적이다.

• SYS-E403-13E: 박스형 PC 폼 팩터에 5세대 인텔 제온 프로세서 및 최대 3개의 엔비디아 GPU가 갖춰져 엣지에서 데이터센터 수준의 성능 구현을 지원한다. 컴팩트한 폼 팩터 덕분에 시스템을 벽걸이형 캐비닛이나 휴대용 장치와 같은 좁은 공간에 배치할 수 있다.

• SYS-211E-FRN2T: 네트워킹 엣지가 공간적인 제한을 받을 때를 위해 시스템의 깊이가 300mm 수준으로 매우 짧게 설계됐다. 최대 5세대 인텔 제온 프로세서를 탑재하고 있으며, 교류(AC)/직류(DC) 전원 옵션이 제공된다.

• SYS-211SE-31D/A: 강력하고 유연한 슈퍼엣지 시스템이자 다중 노드 시스템으로, 탑재된 3개의 독립 노드에 각각 5세대 인텔 제온 프로세서, 3개의 PCIe 5.0 x16 슬롯, 그리고 최대 2TB의 DDR5 메모리를 갖추고 있다. 이 2U 시스템은 전면 I/O 및 넓은 작동 온도 범위를 지원하며, 얕은 깊이로 데이터센터 외부 설치에 매우 적합하다.

• SYS-E300-13AD: 13세대 인텔 코어 프로세서를 탑재한 컴팩트 IoT 서버이다. 크기가 265x226mm에 불과해 엔비디아 GPU를 장착할 수 있는 가장 작은 시스템이다. 이 서버는 분산 AI 기능을 엣지에 전달하는 데 이상적이다.

▲ 슈퍼마이크로 엣지 AI 솔루션

제이크 이스톡(Jacque Istok) 스토어지니어스 CEO는 “에비덴(Eviden)의 AI 기반 소매 솔루션은 슈퍼마이크로 엣지 시스템과 엔비디아 기술을 통해 사람들이 매장과 같은 공간을 둘러보고 상호 작용하는 방식에 큰 변화를 가져왔다. 매장의 3D 모델 및 대화형 챗봇을 통한 적절한 정보 전달로 쇼핑 경험 개인화 및 향상한다. 실물과 같은 표정 애니메이션, 고급 음성 인식 및 3D 모델링을 결합해 가상 쇼핑을 실제 매장을 방문하는 것만큼 실감나게 만들 수 있다”고 말했다.

한편, 슈퍼마이크로는 스페인 바르셀로나에서 열리는 MWC(Mobile World Congress) 2024에 참여하며, 2번 홀, 2D35 부스에서 만날 수 있다.