일반적으로 딥러닝에 적합한 시스템을 구동할 때 높은 중요도를 갖는 부품 중 하나로 CPU와 그래픽카드를 꼽을 수 있다.

딥러닝의 핵심은 학습(Training)으로 다수의 데이터를 분석해 맞는 결과인지 아닌지 반복적으로 확인하는 과정을 거쳐 에러율을 낮추고, 완성형 모델을 만들어가는 과정이다. 

하지만 딥러닝에는 추론(Inference)라는 부분도 있는데, 학습과 달리 이미 만들어진 모델을 기반으로 가지고 있는 데이터로 작업을 수행하는 것을 말한다.

일례로 수많은 사진 중에 어떤 것이 고양이인지 판단하는 과정을 반복해 정확한 모델을 만들어 내는 것이 학습이라면, 이미 학습된 모델로 내가 가진 사진 중 고양이 사진을 판단해 결과를 얻어내는 것이 추론이라 할 수 있다.

딥러닝은 모델이나 데이터에 따른 차이는 있으나, 알려진 것처럼 상당한 양의 연산 성능이 요구되어 고성능의 CPU와 그래픽카드가 결합된 시스템을 주로 사용하게 된다.

이러한 요건에 가장 부합하는 CPU로 최근 출시된 ‘AMD 라이젠 7000 시리즈’를 꼽을 수 있을 것이다. ‘AMD 라이젠 7000 시리지’는 AVX512 명령어를 지원해 딥러닝 추론 성능이 크게 향상된 것으로 알려졌다.

그렇다면 이 추론(Inference)에서 ‘AMD 라이젠 7950X’이 탑재된 시스템과 ‘인텔 12세대 코어 i9-12900K’ 프로세서는 어느 정도 성능 차이가 있는지 벤치마크를 통해 알아보았다.

벤치마크를 위해 아래와 같이 시스템을 구성했으며, 테스트 프로그램은 Tensorflow CNN Benchmark for CPU를 사용했다.

CPU : RYZEN 9 7950X, INTEL i9-12900K
M/B :ASRock X670E Taichi, MSI MPG Z690 Carbon WiFi
RAM : DDR5-4800 CL40 8GB x 2ea
SSD : Micron Crucial MX500 500GB
OS: Ubuntu22.04.1 LTS

위의 그래프는 ‘인텔 12세대 코어 i9-12900K’ 프로세서의 성능을 100%로 변환한 것이다. 테스트 결과 trivial 1가지 항목을 제외하고는 모든 부분에서 ‘AMD 라이젠 9 7950X’가 30% 이상 높은 성능을 보여줬다. 

특히 vgg19, vgg16 항목에서는 100% 이상 차이가 발생했는데, 이는 AVX512 + 향상된 IPC를 통해 딥러닝 성능이 크게 향상되었다는 것을 증명한다.

일반적인 연구소나 기업은 대규모의 시스템을 사용하는 경우가 많다. 워낙 고사양을 요하는 작업이 많다 보니, 원하는 결과를 빠르게 도출하기 위해서는 AMD 스레드리퍼 혹은 인텔 제온 프로세서 같은 고가의 CPU를 사용할 수밖에 없다.

하지만 소규모의 시스템을 사용하는 스타트업이나 학생의 경우 조금 더 부담 없는 가격에 딥러닝용 시스템을 구축하고자 할 것이다.

‘AMD 라이젠 7000 시리즈’는 이런 소비자들에게 적합한 솔루션이 될 수 있을 것으로 보인다., 인텔 12세대 코어 프로세서와 달리 AVX512 명령어 셋을 지원하기에 좀더 원활한 작업이 가능하다.

테스트를 통해 확인할 수 있듯 ‘AMD 라이젠 9 7950X’는 대부분의 항복에서 경쟁 제품을 압도하는 모습을 보여주고 있다. 빠르게 결과물을 뽑아내는 것이 곧 경쟁력을 높이는 지름길임을 감안한다면, 상당히 매력적인 요인이 될 것으로 보인다.