¿£ºñµð¾Æ(www.nvidia.co.kr, CEO Á¨½¼ Ȳ)´Â ¸¶ÀÌÅ©·Î¼ÒÇÁÆ® ¾ÖÀú(Microsoft Azure)°¡ ND A100 v4 VM(°¡»ó¸Ó½Å) ½Ã¸®ÁîÀÇ °ø½Ä Ãâ½Ã¸¦ ¾Ë·È´Ù°í ¹àÇû´Ù. ND A100 v4 VM ½Ã¸®Áî´Â ½´ÆÛÄÄÇ»ÅÍ±Þ AI ¹× °í¼º´ÉÄÄÇ»ÆÃ(HPC) ¿öÅ©·Îµå¸¦ À§ÇÑ ¸¶ÀÌÅ©·Î¼ÒÇÁÆ®ÀÇ °¡Àå °·ÂÇÑ VMÀ¸·Î, ¿£ºñµð¾Æ A100 ÅÙ¼ ÄÚ¾î(Tensor Core) GPU¿Í ¿£ºñµð¾Æ HDR ÀÎÇǴϹêµå(InfiniBand)·Î ±¸µ¿µÈ´Ù.
¿£ºñµð¾Æ´Â ¾ÖÀú¿ÍÀÇ Çù¾÷À» ÅëÇØ ½ºÄÉÀÏ ¾÷(scale-up) ¹× ½ºÄÉÀÏ ¾Æ¿ô(scale-out) ÇüÅÂÀÇ AI Ç÷§ÆûÀ» »õ·Ó°Ô ¼³°èÇß´Ù. ÀÌ Ç÷§ÆûÀº Çõ½ÅÀûÀÎ ¿£ºñµð¾Æ ¾ÏÆä¾î(Ampere) ¾ÆÅ°ÅØó ±â¹Ý GPU, ±×¸®°í ¿£ºñµð¾Æ ³×Æ®¿öÅ· ±â¼ú°ú ¾ÖÀúÀÇ °í¼º´É ÀÎÅÍÄ¿³ØÆ® ¹× VM Æк긯À» °áÇÕÇÏ¿© ´©±¸³ª ¼Õ½±°Ô »ç¿ë °¡´ÉÇÑ AI ½´ÆÛÄÄÇ»ÆÃÀ» ±¸ÇöÇÑ´Ù.
AI ¹× HPC¿Í °ü·ÃµÈ ÁÖ¿ä °úÁ¦¸¦ ÇØ°áÇÏ´Â ¿¼è´Â ±Ô¸ð(scale)ÀÌ´Ù. ÀÚ¿¬¾î ó¸®, Ãßõ ½Ã½ºÅÛ, ÇコÄÉ¾î ¿¬±¸, ¾à¹° ¹ß°ß ¹× ¿¡³ÊÁö¿Í °°Àº ºÐ¾ß´Â °¡¼Ó ÄÄÇ»ÆÃÀ» ÅëÇØ ºñ¾àÀûÀÎ ¹ßÀüÀ» ÀÌ·ï¿À°í ÀÖ´Ù.
ÀÌ·¯ÇÑ ¹ßÀüÀÇ ¸¹Àº ºÎºÐÀº °Å´ëÇÑ ±Ô¸ð·Î ±¸µ¿µÇ´Â ¾ÖÇø®ÄÉÀ̼ǿ¡¼ ºñ·ÔµÈ´Ù. ÀÌ °°Àº Ãß¼¼°¡ ´õ¿í °¡¼ÓȵDZâ À§Çؼ´Â ¾ÖÇø®ÄÉÀ̼ÇÀÌ ½ÇÇàµÇ´Â ¾ÆÅ°ÅØó°¡ À¯¿¬ÇÏ°í Á¢±Ù¼ºÀÌ ³ôÀ¸¸ç, ½ºÄÉÀÏ ¾÷ ¹× ½ºÄÉÀÏ ¾Æ¿ô ÇüŸ¦ ¸ðµÎ ÃëÇØ¾ß ÇÑ´Ù.
ND A100 v4 VMÀº ´ÜÀÏ VM¿¡¼ 8°³ÀÇ ¿£ºñµð¾Æ A100 GPU¿Í GPU´ç 200GB/sÀÇ µ¥ÀÌÅÍ ´ë¿ªÆøÀ» Áö¿øÇÏ´Â ¿£ºñµð¾Æ HDR ÀÎÇǴϹêµå¸¦ °áÇÕÇÑ´Ù. À̸¦ ÅëÇØ, VM´ç ¹«·Á 1.6Tb/s¿¡ À̸£´Â ÀÎÅÍÄ¿³ØÆ® ´ë¿ªÆøÀ» ±¸ÇöÇÑ´Ù.
¶ÇÇÑ °¡Àå ±î´Ù·Î¿î AI ¹× HPC ¿öÅ©·ÎµåÀÇ °æ¿ì¿¡´Â µ¿ÀÏÇÑ ÀúÁö¿¬ ÀÎÇǴϹêµå Æк긯¿¡¼ ¼öõ °³ÀÇ ¿£ºñµð¾Æ A100 GPU·Î È®ÀåÇÏ¿©, ´ÙÁß ³ëµå ºÐ»ê ÄÄÇ»ÆÃÀ» À§ÇÑ ÄÄÇ»Æà ¹× ³×Æ®¿öÅ· ±â´É ¸ðµÎ¸¦ Áö¿øÇÒ ¼ö ÀÖ´Ù.
°³¹ßÀÚµéÀº ¾ÖÇø®ÄÉÀÌ¼Ç °³¹ßÀº ¹°·Ð, ¾ÖÇø®ÄÉÀ̼ÇÀ» ¹èÆ÷ÇÑ ÈÄ ÀÎÇÁ¶ó °ü¸® ´Ü°è¿¡¼µµ ND A100 v4 VM »óÀÇ ¿£ºñµð¾Æ A100 GPU ¼º´ÉÀ» ±Ø´ëÈÇÒ ¼ö ÀÖ´Â ´Ù¾çÇÑ ¿É¼ÇÀ» ´©¸± ¼ö ÀÖ´Ù.
°³¹ßÀ» °£¼ÒÈÇÏ°í °³¹ß½Ã°£À» ´ÜÃàÇÒ ¼ö ÀÖµµ·Ï ¿£ºñµð¾Æ NGC Ä«Å»·Î±×´Â Áï½Ã »ç¿ë °¡´ÉÇÑ GPU ÃÖÀûÈ ¾ÖÇø®ÄÉÀÌ¼Ç ÇÁ·¹ÀÓ¿öÅ©¿Í ÄÁÅ×À̳Ê, »çÀü ÈÆ·ÃµÈ ¸ðµ¨, ¶óÀ̺귯¸®, SDK, Ç︧ Â÷Æ®(Helm chart)¸¦ Á¦°øÇÑ´Ù. ¾ÖÀú ¸¶ÄÏÇ÷¹À̽º(Azure Marketplace) »óÀÇ »çÀü ±¸ÃàµÈ AI ¹× HPC¿ë ¿£ºñµð¾Æ GPU ÃÖÀûÈ À̹ÌÁö¸¦ ÅëÇØ, °³¹ßÀÚµéÀº ´Ü ¸î ¹øÀÇ Å¬¸¯¸¸À¸·Î NGC Ä«Å»·Î±×¿¡¼ GPU °¡¼Ó ¼ÒÇÁÆ®¿þ¾î »ç¿ëÀ» ½ÃÀÛÇÒ ¼ö ÀÖ´Ù. ND A100 v4 VMÀº ¶ÇÇÑ ´ëÈÇü AI °³¹ß, ºÐ»ê ÈÆ·Ã, ¹èÄ¡(batch) Ãß·Ð, ML Ops¸¦ ÅëÇÑ ÀÚµ¿È¸¦ À§ÇØ ¾ÖÀú ¸Ó½Å·¯´×(Azure Machine Learning) ¼ºñ½º¿¡¼µµ Áö¿øµÈ´Ù.
¿£ºñµð¾Æ Æ®¶óÀÌÅæ(Triton) ÀÎÆÛ·±½º ¼¹ö¸¦ »ç¿ëÇÏ¸é »ý»ê´Ü°è¿¡¼ ND A100 v4 VMÀ» ÅëÇØ ¸Ó½Å·¯´× ÆÄÀÌÇÁ¶óÀÎÀ» ±¸ÃàÇÏ´Â ÀÛ¾÷À» ´õ¿í °£¼ÒÈÇÒ ¼ö ÀÖ´Ù. ¿£ºñµð¾Æ Æ®¶óÀÌÅæÀº ¿ÀǼҽº ¼ÒÇÁÆ®¿þ¾î·Î, ¾ÖÀú ¸Ó½Å·¯´× ¼ºñ½º¿Í °áÇյǾî GPU ¹× CPUÀÇ ¼º´É°ú È°¿ëµµ¸¦ ¸ðµÎ ±Ø´ëÈÇÔÀ¸·Î½á ¿î¿µºñ¸¦ ÃÖ¼ÒÈÇÑ´Ù.
¶ÇÇÑ, °³¹ßÀÚ¿Í ÀÎÇÁ¶ó °ü¸®ÀÚµéÀº ¸ÓÁö¾Ê¾Æ ¿ÏÀü °ü¸®Çü ¼ºñ½ºÀÎ ¾ÖÀú Äí¹ö³×Ƽ½º ¼ºñ½º(Azure Kubernetes Service)¸¦ ÅëÇØ ¿£ºñµð¾Æ A100 GPU¸¦ ÀåÂøÇÑ ND A100 v4 VM¿¡¼ ÄÁÅ×À̳ÊÇü ¾ÖÇø®ÄÉÀ̼ÇÀ» ¹èÆ÷ÇÏ°í °ü¸®ÇÒ ¼ö ÀÖ°Ô µÉ Àü¸ÁÀÌ´Ù. |