엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 한국과학기술정보연구원(KISTI), OpenACC와 함께 2021년 ‘KISTI-엔비디아 GPU 해커톤’을 8월 25일부터 9월 1일까지 온라인으로 개최했다.

올해로 2회째를 맞는 이번 해커톤에는 대학·기업·기관 등 총 6개 팀이 참가하였으며, KISTI의 슈퍼컴퓨터 보조시스템인 GPU 클러스터 뉴론(NEURON)을 활용하여 AI 연구개발, HPC 코드 가속화 등의 프로젝트를 수행했다.

참가자들은 KISTI 및 엔비디아의 국내·외 전문가 멘토들과 함께, 엔비디아 GPU에서 가속화를 위해코드 병렬처리를 최적화함으로써 연구문제를 해결했다. 또한, 병렬 프로그래밍 표준인 ‘OpenACC’와 엔비디아 병렬 컴퓨팅 플랫폼 및 프로그래밍 모델인 ‘쿠다(CUDA)’를 이용하여 성능을 향상했다.

서울대의 TFC팀은 CPU 기반의 포트란(Fortran) 인하우스 유체 계산 코드를 GPU를 사용하여 가속화하는 프로젝트를 가지고 참가하였다. 계산시간이 많이 소요되는 TDMA와 FFT계산을 KISTI의 엔비디아 GPU를 통해 가속화하여 최종적으로 3.5배의 가속화를 실현했다.

연세대의 PaScal팀은 난류의 열운동을 효율적으로 계산하는 코드를 개발하고 있다. 이번 행사를 통해 기존의 CPU 기반에서 제작된 코드를 변환하여 멀티 GPU 환경에서 2.43배 빠르게 계산 가능하도록 하였다. PaScal팀 양민규 팀원은 “온라인 개최에 대한 우려와 달리 Slack 채널을 통한 멘토와의 온라인 소통, daily SCRUM을 통한 참가자 및 멘토들과의 의사소통이 원활하게 진행됐다”고 말했다.

금오공대의 CMLDeV팀은 약물 섭취 후에 Tdp를 방지하는데 사용되는 CiPA 시뮬레이터를 가속화하기 위하여 MPI 병렬화를 시도했다. 이들은 엔비디아 GPU를 사용해 속도를 높일 수 있었다.

성균관대의 INGLab팀은 기존의 PPLM을 이용한 스토리 생성 모델에서 30초 이상 소요됐던 추론소요시간을 개선하기 위해 엔비디아 텐서RT(TensorRT)와 멀티 GPU 프로파일링을 사용하여 코드를 개선했다. INGLab팀 조진욱 팀원은 “해커톤에 참가하여 스토리 생성 모델을 가속화한 경험을 바탕으로 새로운 목표가 생겼다. 앞으로 한국어 사전모델 오픈소스를 만들고 싶다”고 말했다.

아모레퍼시픽의 A more Opt팀은 대규모 고객서비스를 위한 AI 적용 모델에서 추론 속도 및 정확도를 향상시키기 위해, 세그먼트 모델의 GPU 최적화를 진행하고자 이번 행사에 참가하였다. 해커톤을 통해 배운 기법들을 현업 모델에 적용하여 정확도와 서비스 속도를 향상시킬 수 있는 모델 최적화를 진행하였다.

노타와 한양대학교의 NOTA-HYU팀은 양자화된 ResNet50 네트워크의 정수 연산을 엔비디아 텐서 코어(Tensor Core) GPU를 이용해서 1.85배 가속화 및 최적화하였다. NOTA-HYU팀의 최경준 팀원은 “기존 문제 해결 방법으로 GPU 커널 하나에만 집중했었는데, 멘토들이 전체적인 그림을 그리면서 기존과는 다른 접근 방법으로 문제를 해결하는 모습을 보며 앞으로의 방향성에 대하여 배울 수 있는 뜻깊은 경험이었다”고 말했다.

한편, 메타버스를 활용한 ‘개더 타운 스페이스(Gather Town Space)’ 포럼이 마련돼 참가자들과 멘토들이 모여 프로젝트 수행 경험을 나누는 시간을 가졌다.

KISTI 과학데이터교육센터 안부영 센터장은 “코로나19 상황에서도 2021년에 온라인으로나마 국내에서 두 번째 GPU 해커톤을 개최한 것을 매우 뜻깊게 생각한다”며, “짧은 기간이었음에도 코드 가속화와 최적화 결과가 우수하였으며, 앞으로도 KISTI-엔비디아 GPU 해커톤을 통해 산업체와 대학에서 고민하는 연구 문제를 해결하고 전문성을 키울 수 있는 기회를 마련하도록 노력하겠다”고 말했다.