¿£ºñµð¾Æ(www.nvidia.co.kr, CEO Á¨½¼ Ȳ)°¡ ¿£ºñµð¾Æ HGX ÀΰøÁö´É(AI) ½´ÆÛÄÄÇ»Æà Ç÷§ÆûÀ» ±¸µ¿ÇÏ´Â »õ·Î¿î ¿£ºñµð¾Æ A100 80GB GPU¸¦ °ø°³Çß´Ù. A100 80GB GPU´Â ÀÌÀü ¸ðµ¨ ´ëºñ 2¹è ³ô¾ÆÁø ¸Þ¸ð¸®´Â ¹°·Ð, ¿¬±¸ÀÚ ¹× ¿£Áö´Ï¾îµéÀÇ °úÇÐÀû ¹ß°ß°ú AI Çõ½ÅÀ» Áö¿øÇÏ´Â Àü·Ê ¾ø´Â ¼Óµµ¿Í ¼º´ÉÀ» Á¦°øÇÑ´Ù.
HBM2e ±â¼úÀÌ Àû¿ëµÈ ÇØ´ç Á¦Ç°Àº A100 40GB GPUÀÇ °í´ë¿ªÆø ¸Þ¸ð¸®¸¦ 2¹èÀÎ 80GB·Î ´Ã¸®°í, ÃÊ´ç 2Å׶ó¹ÙÀÌÆ®(TB) ÀÌ»óÀÇ ¸Þ¸ð¸® ´ë¿ªÆøÀ» Á¦°øÇÑ´Ù. À̸¦ ÅëÇØ ¼¼°è¿¡¼ °¡Àå ºü¸¥ µ¥ÀÌÅͼ¾ÅÍ GPUÀÎ A100¿¡ µ¥ÀÌÅ͸¦ ½Å¼ÓÇÏ°Ô °ø±ÞÇÏ¿© ¿¬±¸ÀÚµéÀÌ ¾ÖÇø®ÄÉÀ̼ÇÀ» ´õ¿í ºü¸£°Ô °¡¼ÓÈÇÏ°í, ´ë±Ô¸ðÀÇ ¸ðµ¨ ¹× µ¥ÀÌÅͼÂÀ» È°¿ëÇÒ ¼ö ÀÖµµ·Ï ÇÑ´Ù.
¿£ºñµð¾Æ ÀÀ¿ë µö ·¯´× ¸®¼Ä¡ ºÎ¹® ºÎ»çÀå ºê¶óÀ̾ð īźÀÚ·Î(Bryan Catanzaro)´Â “°í¼º´ÉÄÄÇ»ÆÃ(HPC)°ú AI ºÐ¾ß¿¡¼ ÃÖ»óÀÇ ¿¬±¸ °á°ú¸¦ ³»±â À§Çؼ´Â ¹æ´ëÇÑ ¸ðµ¨À» ±¸ÃàÇØ¾ß Çϴµ¥, ÀÌ´Â ¾î´À¶§º¸´Ù ´õ ³ôÀº ¸Þ¸ð¸® ¿ë·®°ú ´ë¿ªÆøÀ» ¿ä±¸ÇÏ°í ÀÖ´Ù. A100 80GB GPU´Â ºÒ°ú 6°³¿ù Àü¿¡ Ãâ½ÃµÈ ÀÌÀü ¸ðµ¨ º¸´Ù 2¹è ³ôÀº ¸Þ¸ð¸®¸¦ Á¦°øÇÑ´Ù. ¶ÇÇÑ, ÃÊ´ç 2TBÀÇ ¼Óµµ·Î ¿¬±¸ÀÚµéÀÌ Áß¿äÇÑ °úÇÐ ¹× ºò µ¥ÀÌÅÍ °úÁ¦¸¦ ÇØ°áÇϵµ·Ï µ½´Â´Ù”°í ¸»Çß´Ù.
¿£ºñµð¾Æ A100 80GB GPU´Â ÇÔ²² ¹ßÇ¥µÈ ¿£ºñµð¾Æ DGX A100°ú DGX ½ºÅ×ÀÌ¼Ç A100(DGX Station A100) ½Ã½ºÅÛ¿¡¼ ÀÌ¿ë °¡´ÉÇϸç, ÇØ´ç Á¦Ç°µéÀº À̹ø ºÐ±â¿¡ ÃâÇ쵃 ¿¹Á¤ÀÌ´Ù.
¾÷°è ¼±µµÀûÀÎ ½Ã½ºÅÛ °ø±Þ¾÷üÀÎ ¾ÆÅ佺(Atos), µ¨ Å×Å©³î·ÎÁö½º(Dell Technologies), ÈÄÁöÂê(Fujitsu), ±â°¡¹ÙÀÌÆ®(GIGABYTE), HPE, ÀνºÆÛ(Inspur), ·¹³ë¹ö(Lenovo), ÄöŸ(Quanta), ½´ÆÛ¸¶ÀÌÅ©·Î(Supermicro)´Â 2021³â »ó¹Ý±âºÎÅÍ A100 80GB GPU°¡ žÀçµÈ HGX A100 ÅëÇÕ º£À̽ºº¸µå·Î ±¸ÃàµÈ ½Ã½ºÅÛÀ» Á¦°øÇÒ °èȹÀÌ´Ù.
¹æ´ëÇÑ µ¥ÀÌÅÍ ¿öÅ©·Îµå Áö¿ø
»õ·Î¿î A100 80GB GPU´Â 40GB ¹öÀüÀÇ ´Ù¾çÇÑ ±â´ÉÀ» ±â¹ÝÀ¸·Î ¼³°èµÆÀ¸¸ç, ¸·´ëÇÑ µ¥ÀÌÅÍ ¸Þ¸ð¸®¸¦ ¿ä±¸ÇÏ´Â ±¤¹üÀ§ÇÑ ¾ÖÇø®ÄÉÀ̼ǿ¡ ÀÌ»óÀûÀÌ´Ù.
AI ÈƷÿ¡ ÀÖ¾î DLRM°ú °°Àº Ãßõ ½Ã½ºÅÛ ¸ðµ¨¿¡´Â ¼ö½Ê¾ï ¸íÀÇ »ç¿ëÀÚ¿Í ¼ö½Ê¾ï °³ÀÇ Á¦Ç°À» ³ªÅ¸³»´Â ¹æ´ëÇÑ Å×À̺íÀ» Æ÷ÇÔÇÏ°í ÀÖ´Ù. A100 80GB GPU´Â ÃÖ´ë 3¹è ºü¸¥ ¼Óµµ¸¦ Á¦°øÇϹǷΠ±â¾÷Àº ÀÌ·¯ÇÑ À¯ÇüÀÇ ¸ðµ¨À» ½Å¼ÓÇÏ°Ô ÀçÈÆ·ÃÇØ ¸Å¿ì Á¤È®ÇÑ Ãßõ ¼ºñ½º¸¦ Á¦°øÇÒ ¼ö ÀÖ´Ù.
A100 80GB GPU´Â ¶Ù¾î³ ¾ð¾î »ý¼º ±â´ÉÀ» °®Ãá GPT-2 ÀÚ¿¬¾î ó¸® ¸ðµ¨°ú °°ÀÌ ´ÜÀÏ HGX žÀç ¼¹ö¿¡¼ ´õ ¸¹Àº ¸Å°³º¯¼ö¸¦ °¡Áø ¹æ´ëÇÑ ¸ðµ¨À» ÈÆ·ÃÇÒ ¼ö ÀÖ´Ù. À̸¦ ÅëÇØ ±¸Çö¿¡ ¸¹Àº ½Ã°£ÀÌ ¼Ò¿äµÇ°í, ¿©·¯ ³ëµå¿¡¼ ´À¸®°Ô ½ÇÇàµÉ ¼ö ÀÖ´Â µ¥ÀÌÅÍ È¤Àº ¸ðµ¨À» À§ÇÑ º´·Äó¸® ¾ÆÅ°ÅØóÀÇ Çʿ伺À» ¾ø¾Ø´Ù.
A100Àº ¸ÖƼ ÀνºÅϽº GPU(MIG) ±â¼úÀ» ÅëÇØ ÃÖ´ë 7°³ÀÇ GPU ÀνºÅϽº·Î ºÐÇÒÇÒ ¼ö ÀÖÀ¸¸ç, °¢°¢ÀÇ ÀνºÅϽº´Â 10GB ¸Þ¸ð¸®¸¦ °®´Â´Ù. ÇØ´ç ±â¼úÀº ¾ÈÀüÇÑ Çϵå¿þ¾î °Ý¸®¸¦ Á¦°øÇÏ°í, ´Ù¾çÇÑ ¼Ò±Ô¸ð ¿öÅ©·Îµå¸¦ À§ÇØ GPU È°¿ëµµ¸¦ ±Ø´ëÈÇÑ´Ù. RNN-T¿Í °°Àº ÀÚµ¿ À½¼º ¸ðµ¨ÀÇ AI Ãß·ÐÀÇ °æ¿ì, ´ÜÀÏ A100 80GB MIG ÀνºÅϽº°¡ ÈξÀ ´õ Å« ¹èÄ¡ »çÀÌÁ ÀÛ¾÷ÇØ 1.25¹è ´õ ¸¹Àº Ã߷Р󸮷®À» Á¦°øÇÑ´Ù.
TB±Ô¸ðÀÇ ¸®Å×ÀÏ¿ë ºòµ¥ÀÌÅÍ ºÐ¼® º¥Ä¡¸¶Å©¿¡¼ A100 80GB GPU´Â ÃÖ´ë 2¹è·Î ³ôÀº ¼º´ÉÀ» ´Þ¼ºÇϸç, °¡Àå Å« µ¥ÀÌÅͼ¿¡¼ ½Å¼ÓÇÑ ÅëÂû·ÂÀ» Á¦°øÇÏ´Â ÀÌ»óÀûÀÎ Ç÷§ÆûÀÓÀ» ÀÔÁõÇß´Ù. À̸¦ ÅëÇØ, ±â¾÷µéÀº µ¿ÀûÀ¸·Î µ¥ÀÌÅÍ°¡ ¾÷µ¥ÀÌÆ®µÊ¿¡ µû¶ó ½Ç½Ã°£À¸·Î ÁÖ¿ä ÀÇ»ç°áÁ¤À» ³»¸± ¼ö ÀÖ´Ù.
A100 80GB GPU´Â ±â»ó ¿¹Ãø°ú ¾çÀÚ ÈÇаú °°Àº ºÐ¾ßÀÇ °úÇÐ ¾ÖÇø®ÄÉÀ̼ÇÀ» ºü¸£°Ô °¡¼ÓÈÇÒ ¼ö ÀÖ´Ù. ¼ÒÀç ½Ã¹Ä·¹À̼ÇÀÎ ÄöÅÒ ¿¡½ºÇÁ·¹¼Ò(Quantum Espresso)´Â A100 80GB GPUÀÇ ´ÜÀÏ ³ëµå·Î ¼º´ÉÀ» 2¹è °¡±îÀÌ Çâ»ó½ÃÄ×´Ù.
¸¶¾²¿ÀÄ« »çÅä½Ã(Satoshi Matsuoka) ÀϺ» ÀÌÈÇבּ¸¼Ò(RIKEN) ÄÄÇ»ÅÍ »çÀ̾𽺠¼¾ÅÍ ÀÌ»ç´Â “ºü¸£°í ÃæºÐÇÑ ¸Þ¸ð¸® ´ë¿ªÆø°ú ¿ë·®Àº ½´ÆÛÄÄÇ»Æà ¾ÖÇø®ÄÉÀ̼ÇÀÇ ³ôÀº ¼º´ÉÀ» ±¸ÇöÇÏ´Â µ¥ ÇʼöÀûÀÌ´Ù. ¼¼°è ÃÖ°í ¼öÁØÀ¸·Î, ÃÊ´ç 2TB ´ë¿ªÆøÀ» Á¦°øÇÏ´Â HBM2e GPU ¸Þ¸ð¸®¸¦ °®Ãá ¿£ºñµð¾Æ A100 80GB GPU´Â ¾ÖÇø®ÄÉÀÌ¼Ç ¼º´ÉÀ» Çâ»ó½ÃÅ°´Â µ¥ »ó´çÇÑ µµ¿òÀÌ µÉ °Í”À̶ó°í ¼³¸íÇß´Ù.
A100 80GB GPUÀÇ ÁÖ¿ä Ư¡
A100 80GB GPU´Â ȹ±âÀûÀÎ ¿£ºñµð¾Æ ¾ÏÆä¾î(Ampere) ¾ÆÅ°ÅØóÀÇ ¿©·¯ ±â´ÉÀ» Æ÷ÇÔÇÑ´Ù.
3¼¼´ë ÅÙ¼ÄÚ¾î(Tensor Core): »õ·Î¿î TF32 Çü½Ä, 2.5¹è ¶Ù¾î³ HPC ¼º´ÉÀ» Á¦°øÇÏ´Â FP64, 20¹è Çâ»óµÈ AI Ãß·ÐÀ» Áö¿øÇÏ´Â INT8, BF16 µ¥ÀÌÅÍ Æ÷¸ËÀ» Áö¿øÇÑ´Ù. À̸¦ ÅëÇØ º¼Å¸(Volta) V100 ´ëºñ 20¹è ³ôÀº AI 󸮷®À» Á¦°øÇÑ´Ù.
´õ Å©°í ºü¸¥ HBM2e GPU ¸Þ¸ð¸®: ¸Þ¸ð¸® ¿ë·®À» 2¹è ´Ã·Á ¾÷°è ÃÖÃÊ·Î ÃÊ´ç 2TB ÀÌ»óÀÇ ¸Þ¸ð¸® ´ë¿ªÆøÀ» Á¦°øÇÑ´Ù.
MIG ±â¼ú: °Ý¸®µÈ ÀνºÅϽº ´ç ¸Þ¸ð¸®¸¦ µÎ ¹è·Î ´Ã·Á °¢°¢ 10GB ¸Þ¸ð¸®¸¦ °®´Â ÃÖ´ë 7°³ÀÇ GPU¸¦ Á¦°øÇÑ´Ù.
±¸Á¶Àû Èñ¼Ò¼º: Èñ¼Ò ¸ðµ¨(sparse model)À» Ãß·ÐÇÏ´Â ¼Óµµ¸¦ ÃÖ´ë 2¹è±îÁö Çâ»ó½ÃŲ´Ù.
3¼¼´ë NV¸µÅ©(NVLink) ¹× NV½ºÀ§Ä¡(NVSwitch): ÀÌÀü ¼¼´ë ¿¬°á ±â¼ú¿¡ ºñÇØ 2¹è ³ôÀº GPU-Åõ-GPU ´ë¿ªÆøÀ» Á¦°øÇÔÀ¸·Î½á µ¥ÀÌÅÍ Áý¾àÀû ¿öÅ©·Îµå¸¦ À§ÇØ GPU·ÎÀÇ µ¥ÀÌÅÍ Àü¼ÛÀ» ÃÊ´ç 600GB·Î °¡¼ÓÈÇÑ´Ù.
¿£ºñµð¾Æ HGX AI ½´ÆÛÄÄÇ»Æà Ç÷§Æû
A100 80GB GPU´Â ¿£ºñµð¾Æ GPU, ¿£ºñµð¾Æ NV¸µÅ©, ¿£ºñµð¾Æ ÀÎÇǴϹêµå(InfiniBand) ³×Æ®¿öÅ·°ú ¿Ïº®ÇÏ°Ô ÃÖÀûÈµÈ ¿£ºñµð¾Æ AI, HPC ¼ÒÇÁÆ®¿þ¾î ½ºÅÃÀ» ÅëÇØ ÃÖ»óÀÇ AI ¾ÖÇø®ÄÉÀÌ¼Ç ¼º´ÉÀ» Á¦°øÇÑ´Ù. À̸¦ ÅëÇØ ¿¬±¸ÀÚ¿Í °úÇÐÀÚµéÀº HPC, µ¥ÀÌÅÍ ¾Ö³Î¸®Æ½½º, µö ·¯´× ÄÄÇ»Æà ¹æ¹ýÀ» ÅëÇÕÇØ °úÇÐÀû ¹ßÀüÀ» µµ¸ðÇÒ ¼ö ÀÖ´Ù. |