오라클은 오라클 클라우드 인프라스트럭처 컴퓨트(OCI Compute)에 추가될 엔비디아 H100 텐서 코어(NVIDIA H100 Tensor Core) GPU, 엔비디아 L40S GPU, 암페어 암페어원(Ampere AmpereOne™) CPU 기반 신규 인스턴스를 발표했다. 신규 OCI 컴퓨트 인스턴스는 AI 모델의 학습, 미세 조정, 추론에서부터 클라우드 전용 애플리케이션 및 비디오 트랜스코딩 애플리케이션의 실행에 이르는 다양한 워크로드를 더욱 간단히 실행할 수 있도록 설계되었고, 가성비 또한 향상되었다.

차세대 엔비디아 GPU 기반 신규 OCI 컴퓨트 인스턴스의 세부 목록은 다음과 같다.

• 엔비디아 H100 GPU 기반 OCI 컴퓨트 베어메탈 인스턴스(OCI Compute Bare Metal Instances Powered by NVIDIA H100 GPUs): 자연어 처리 및 추천 시스템용 모델과 같은 대규모 AI 모델의 학습 시간을 단축시킨다. 엔비디아 H100 텐서 코어 GPU 인스턴스를 사용하는 기업은 이전 세대 엔비디아 A100 텐서 코어 GPU 대비 AI 추론 사용 사례에서 최대 30배 성능 향상, AI 모델 학습에서 4배 성능 향상을 경험했다. AI 모델 학습과 같은 고강도 컴퓨팅 워크로드를 실행하는 고객의 경우 OCI 슈퍼클러스터(OCI Supercluster)의 고성능 초저지연 클러스터 네트워크를 통해 수만 개의 엔비디아 H100 GPU를 상호 연결할 수 있다. 본 인스턴스는 올해 말 오라클 클라우드 런던 리전 및 오라클 클라우드 시카고 리전에서 정식 출시되며, 이후 타 리전에서도 지원될 예정이다.

• 엔비디아 L40S GPU 기반 OCI 컴퓨트 베어메탈 인스턴스(OCI Compute Bare Metal Instances Powered by NVIDIA L40S GPUs): AI 추론 또는 중소형 AI 모델 학습 등의 워크로드 실행을 위한 대체 옵션을 제공한다. 테스트 결과 이 인스턴스는 이전 세대 엔비디아 A100 GPU 대비 생성형 AI 워크로드의 경우 최대 20%, AI 모델 미세 조정의 경우 최대 70%의 성능 향상을 기록했다. 정식 출시는 내년으로 예정되어 있다.

암페어 컴퓨팅 CPU 기반 신규 OCI 컴퓨트 인스턴스는 다음과 같다.

• 암페어 암페어원™ CPU 기반 OCI 컴퓨트 A2 인스턴스(OCI Compute A2 Instances Powered by Ampere AmpereOne™ CPUs): 웹 서버 실행, 비디오 트랜스코딩, CPU 기반 AI 추론 요청 서비스 등 다양한 범용 클라우드 워크로드를 위한 최적의 가성비 및 업계 최고의 프로세서 코어 수(베어메탈 구성 320 코어, 유연한 VM 구성 최대 156 코어)를 제공한다. 이 인스턴스는 높은 코어 수를 기반으로 향상된 성능, 가상머신 밀도, 확장성을 제공함으로써 고객사가 컴퓨팅 워크로드를 보다 효율적으로 관리하고 데이터센터 설치 공간 및 전력 소비를 줄일 수 있도록 지원한다. 또한 고객사는 이 인스턴스의 유연한 가상머신용 구성을 통해 프로세싱 파워 및 메모리를 미세 조정함으로써 리소스 활용도를 극대화하고 비용을 최소화함과 동시에 간단하고 예측 가능한 가격 모델을 제공할 수 있다. 정식 출시는 내년으로 예정되어 있다.

오라클의 도널드 루(Donald Lu) OCI 소프트웨어 개발 담당 수석 부사장은 "OCI는 전용 베어메탈 인스턴스를 최초로 제공한 클라우드 제공업체 중 하나다. 이는 전 세계의 모든 고객사에 보다 간단히 사용 가능한 고성능 컴퓨팅 서비스를 제공하기 위한 핵심 요소다. OCI의 엔비디아 및 암페어 컴퓨팅 프로세서 기반 인스턴스는 고객사의 클라우드 인프라에 필요한 광범위한 성능, 효율성, 유연성을 제공하므로 고객사는 범용 워크로드부터 고성능 AI 프로젝트에 이르는 모든 작업을 자유롭게 수행할 수 있다."라며 "오라클은 AI의 개발 및 사용을 지원하기 위해 특별히 설계된 클라우드 컴퓨팅 오퍼링 시장을 선도하고 있다. 시장의 성장과 함께 증가해 나갈 AI 제공업체 및 사용자를 지원하며 클라우드 컴퓨팅 산업을 주도할 수 있는 유리한 위치를 선점했다."라고 말했다.

엔비디아의 이언 벅(Ian Buck) 하이퍼스케일 및 고성능 컴퓨팅 담당 부사장은 "엔비디아와 오라클의 협업을 통해 OCI에서의 최첨단 GPU 사용을 보다 대중화할 수 있게 됐다."라며 "OCI의 엔비디아 H100 및 L40S GPU는 전 업종의 고객사에 전례 없는 성능, 확장성, 보안성을 제공함으로써 AI 혁신에 기여할 것이다."라고 전했다.

암페어 컴퓨팅의 제프 위치(Jeff Wittich) 최고제품책임자는 "오라클은 암페어 프로세서 기반 컴퓨트 인스턴스를 전 세계적으로 배포한 최초의 클라우드 서비스 제공업체다."라며 “OCI의 차세대 암페어 A2 기반 인스턴스는 인스턴스당 최대 320개 코어를 제공한다. 이는 업계 최고 수준의 코어 수로서, 한층 더 향상된 성능, 워크로드 밀도, 확장성을 제공한다."고 말했다.

코히어(Cohere)의 마틴 콘(Martin Kon) 사장 겸 COO는 "엔비디아 GPU 기반 신규 OCI 컴퓨트 인스턴스는 업계 선도적 차세대 코히어 엔터프라이즈 AI 모델을 학습시키고 제공하는 데 필요한 성능을 갖추었다."라며 "오라클의 클라우드는 모든 애플리케이션에 내장 가능하고 다양한 산업에서 사용할 수 있는 고성능 AI 모델 구축에 필요한 안정적이고 강력한 컴퓨팅 리소스를 제공한다."라고 말했다.

데이터브릭스(Databricks)의 나빈 라오(Naveen Rao) 생성형 AI 담당 부사장은 "모자이크ML 플랫폼에서 대규모 언어 모델을 학습시키기 위해서는 고성능 스토리지 및 초고속 클러스터 네트워킹을 갖춘 OCI의 베어메탈 컴퓨트 인스턴스를 통해 이용 가능한 수천 개의 엔비디아 GPU가 필요하다."라며 "데이터브릭스는 대규모 AI 학습 및 추론을 위한 탁월한 가성비를 제공하는 OCI를 선택했다. 엔비디아 H100 및 L40S GPU 기반 OCI 컴퓨트 인스턴스의 출시도 기대하고 있다."라고 말했다.

우버의 캄란 자가히(Kamran Zargahi) 기술 전략 담당 전무는 "우버는 사람과 사물의 도시 내 이동 방식을 혁신하는 기업이다. 우버는 멀티클라우드 아키텍처의 일환으로 크리티컬 워크로드 실행에 적합한 탁월한 보안성, 성능, 유연성을 제공하는 OCI를 활용하고 있다."라며 "현재 AMD 프로세서 기반 스탠다드(Standard) 인스턴스 및 고밀도 I/O(Dense I/O) 인스턴스를 사용 중이며, 엔비디아 GPU 기반 OCI 컴퓨트도 도입할 계획이다."라고 전했다.