"CPU를 바꾼 후 작업 효율이 크게 높아졌습니다. 이전에는 1주일 이상 걸리던 작업이 이제는 3~4일 만에 끝나 더욱 다양한 일을 할 수 있게 된 것은 물론 그만큼 데이터의 정확도도 높아졌습니다"

서버급의 성능을 구현하는 워크스테이션 PC를 구동하는데 있어 CPU의 역할이 중요하다는 점은 모든 이들이 공감하는 바일 것이다.

특히 4차 산업혁명의 핵심기술이라 불리는 딥러닝을 수행하는 PC라면 GPU 못지 않게 CPU가 하는 일들이 많을 수밖에 없어 담당자의 입장에서는 더욱 신경을 써야한다.

그렇다면 실제로 CPU가 딥러닝을 구동하는 PC에서 어느 정도의 역할을 하고, 고사양의 최신 CPU를 사용했을 때 얼마나 작업 효율이 높아지는지 서강대학교 기계학습 연구실 김태훈 박사를 만나 일문일답 형식으로 이야기를 들어봤다.

▲ 서강대학교 기계학습 연구실 김태훈 박사

주로 어떤 연구를 수행하는가?

딥러닝 중에서도 영상처리와 관련된 기술을 연구하고 있다. 일반적으로 딥러닝이라 하면 알파고로 대변되는 강화학습을 많이 알고 있는데, 이 외에도 CNN과 LSTM, GAN 등 다양한 분야로 세분화된다. 그 중에서도 영상 처리 기술을 스마트폰은 물론 의료계 등 산업 전반에 걸쳐 광범위하게 사용된다.

예를들어 스마트폰 내에서 카메라를 통해 들어오는 다양한 정보들, 이를테면 사진이나 영상에서 물체를 찾아 내거나 이미지에서 픽셀 단위로 분리해서 사물을 구분하는 등의 작업을 하기도 한다.

일반적으로 이러한 작업은 PC의 GPU를 많이 사용하게 되는데, 우리가 하는 연구는 모바일의 CPU에서도 구동이 가능하도록 경량화하는 것이다.

뿐만 아니라 종이에 인쇄된 문자나 기호, 마크 등에 빛을 비춰 그 반사 광선을 전기 신호로 바꿔 PC에 입력하는 OCR(광학식 문자판독장치)과 같은 기술에도 이용된다.

이러한 기술을 구현하는데 하드웨어의 비중은?

당연한 말일 수 있지만, 이렇게 복잡한 작업을 하는데 있어 하드웨어가 차지하는 비중이 크기 마련이다. 90년 대까지만 하더라도 불가능했던 작업들을 구현할 수 있게 된 것도 하드웨어의 성능이 높아졌기 때문이다.

예를들어 영상처리에 있어 기본이되는 에폭을 수행하는데, 20년 전에는 1년이 걸렸다면 지금은 1주일 만에 끝낼 수 있게 됐다. 이러한 작업들을 수행하는데 있어 CPU에 탑재된 코어의 개수가 GPU만큼이나 중요하기 마련이다.

보통 수 백만 번의 에폭을 수행하게 되는데, CPU의 성능이 좋으면 분산 처리가 되기 때문에 작업의 효율이 높아진다. 즉 CPU가 컨트롤타워의 역할을 하는 것이다. 동일한 GPU 세팅에서 CPU만 다르게 세팅했을 때 5일 걸리던 작업이 2일만에 끝나는 경우도 있다.

예를들어 GPU를 똑같이 사용한 상태에서 1세대 쓰레드리퍼인 1950X를 비롯해 라이젠 2700X / 3950X, 스레드리퍼 3990X 등 4가지 프로세서를 사용했을 때 1950X의 경우 1주일, 3세대 스레드리퍼는 3~4일 정도 걸린다.

물론 3세대는 어쎔블리에서 인스트럭션이 해결되서 더 빨라진 것도 있지만, 코어의 개수가 4배에 달할 정도로 많고 기본 성능이 높아졌기 때문인 것으로 보인다.

딥러닝 연구에 사용되는 PC의 사양은?

그 전까지만 하더라도 AMD 라이젠7 2700X 프로세서를 사용했었는데, 작업에 한계를 느껴 최근 'AMD 라이젠 스레드리퍼 3990X'로 업그레이드를 했다. 그래픽카드로는 엔비디아 타이탄 2~3개를 묶어 사용한다.

일반적으로는 딥러닝PC는 GPU가 가장 중요하다고 생각하는데, 실제로는 CPU의 역할도 정말 중요하다. 사실 평소에는 GPU의 평균 점유율이 10% 내외다. 사실 쿼드로나 최신 RTX가 아니더라도 타이탄으로도 충분하다.

메모리는 128GB 용량으로 구성했으며, 2TB 용량의 NVMe 방식의 SSD를 탑재했다. 참고로 딥러닝에 있어 스토리지의 성능도 중요한데, 기존 SATA 방식의 SSD를 사용하던 때보다 확연한 차이가 난다. 그만큼 갈수록 하드웨어의 사양이 발전하고 있다는 뜻이기도 한다.

무엇보다 CPU를 AMD의 제품으로 교체한 이후 성능의 향상이 두드러진 것을 느낀다. 단순한 작업들을 하기 때문에 IPC보다 물리적인 코어의 개수가 더 중요하다.

그 전에는 인텔 제온을 썼는데, 그보다 AMD 쓰레드리퍼가 코어 수가 더 많기 때문에 그만큼 효율도 높아진다. 물론 내부 쿨링과 같은 부분도 많은 신경을  썼다. 믿을 만한 조립몰을 통해 구매를 했기는데, 3~4개월이 지난 현재까지도 아무 문제가 없이 잘 돌아간다.

AMD 최신 프로세서로 업그레이드 이후 바뀐 점은?

작업의 시간이 짧아지다 보니 더 많은 작업을 할 수 있고, 한편으로는 더 꼼꼼한 검증 과정을 거칠 수 있게 됐다.

하나의 PC를  여러 명의 연구원이 VM 형태로 사용하기도 한다. GPU와 CPU를 쪼개서 각각의 사용자마다 코어를 할당해서 사용한다. 이 때 CPU와 GPU 한 개당 최소 코어가 8개 이상은 써야한다. 그래서 코어의 개수가 중요하다.

AMD 쓰레드리퍼는 확실히 비용적인 측면에서도 이득이 된다고 생각한다. 이전에 경쟁사의 제품을 사용했을 때와 비교하면 많게는 100여 만원 이상의 비용을 절감할 수 있다. 성능을 높아지고 비용은 줄었으니, 가격대비 성능 면에서 그만큼 높아지게 된 것이다.

딥러닝 PC 1대를 맞추는데 대략적으로 1000만원 내외의 비용이 든다. 보통 4대의 PC를 사용하는데, CPU를 타협을 보면 GPU 1대를 더 추가할 수 있을 만큼의 여유 금액이 남는다.

정해진 예산에서 구매해야하다 보니, 가성비를 따질 수밖에 없다. 현재 'AMD 라이젠9-3세대 3950X'를  사용 중인데, 확실히 전보다 학습의 효율이 높아졌다. 이제 인텔 서버는 아예 사용하지 않고 있다. 

물론 정답은 있을 수 없다. 워낙 다양한 분야에서 여러 가지 작업이 수행되다 보니 AMD 프로세서가 무조건 좋다고 말하기는 어려울 것이다.

하지만 효율과 비용을 생각해 한 번쯤 새로운 플랫폼으로 업그레이드를 고려하고 있는 경우라면 다수의 코어에 비용적인 혜택까지 갖춘 AMD 쓰레드리퍼가 좋은 대안이 될 수도 있을 것으로 보인다.