±¸±Û Ŭ¶ó¿ìµå°¡ ¸ÂÃãÇü ¸Ó½Å·¯´× Çϵå¿þ¾î °¡¼Ó±â ‘Ŭ¶ó¿ìµå TPU(Tensor Processing Unit)’ÀÇ 4¼¼´ë ¹öÀü, TPU v4 Æ÷µå(Pod) ±â¹ÝÀÇ ¸Ó½Å·¯´× Ŭ·¯½ºÅ͸¦ ¹ßÇ¥Çß´Ù. ±¸±Û I/O 2022¿¡¼ ÇÁ¸®ºä ¹öÀüÀ¸·Î ¼±º¸ÀÎ ¸Ó½Å·¯´× Ŭ·¯½ºÅÍ´Â ¼¼°è ÃÖ°í ¼öÁØÀÇ ¼Óµµ¿Í È¿À²¼º, Áö¼Ó°¡´É¼ºÀ» ÀÚ¶ûÇÏ´Â ¸Ó½Å·¯´× ÀÎÇÁ¶ó Çãºê·Î, Â÷¼¼´ë ÀΰøÁö´É(AI) ±â¼ú¿¡¼ ÇÙ½ÉÀûÀÎ Áøº¸¿Í Çõ½ÅÀ» Áö¿øÇÑ´Ù.
»ê¾÷ Àü¹Ý¿¡ °ÉÃÄ µðÁöÅÐ Æ®·£½ºÆ÷¸ÞÀ̼ÇÀÌ °¡¼ÓÈµÇ¸é¼ ±â¾÷ÀÌ ÇÊ¿ä·Î ÇÏ´Â ¸Ó½Å·¯´×ÀÇ ¿ë·®, ¼º´É, ±Ô¸ð´Â ±× ¾î´À ¶§º¸´Ù ºü¸£°Ô Áõ°¡ÇÏ°í ÀÖ´Ù. IDC°¡ 2õ ¸íÀÇ IT ÀÇ»ç°áÁ¤±ÇÀÚ¸¦ ´ë»óÀ¸·Î ÁøÇàÇÑ ÃÖ±Ù ¼³¹®Á¶»ç[1]¿¡ µû¸£¸é, AI ÇÁ·ÎÁ§Æ®°¡ ½ÇÆÐÇÏ´Â ±Ùº»ÀûÀÎ ¿øÀÎÀº ÁÖ·Î ºÒÃæºÐÇÑ ÀÎÇÁ¶ó ¿ª·®ÀÎ °ÍÀ¸·Î ³ªÅ¸³µ´Ù. ±â¾÷¿ëÀ¸·Î ¼³°èµÈ AI ÀÎÇÁ¶óÀÇ Á߿伺ÀÌ Ä¿Áö´Â °¡¿îµ¥, ±¸±ÛÀº ¹Ì±¹ ¿ÀŬ¶óÈ£¸¶ÁÖ¿¡ Ŭ¶ó¿ìµå TPU v4ÀÇ ¿¬»ê ÁýÇÕÀ¸·Î ÃÑ 9¿¢»çÇ÷Ó(Exaflops)ÀÇ ¿¬»ê ¼º´ÉÀ» Áö¿øÇÏ´Â ¼¼°è ÃÖ´ë ±Ô¸ðÀÇ ¸Ó½Å·¯´× Ŭ·¯½ºÅ͸¦ ±¸ÃàÇß´Ù.
Ŭ¶ó¿ìµå TPU v4 Æ÷µå·Î ±¸µ¿µÇ´Â ±¸±Û Ŭ¶ó¿ìµåÀÇ ¸Ó½Å·¯´× Ŭ·¯½ºÅÍ´Â ¿¬±¸¿ø°ú °³¹ßÀÚ°¡ AI ºÐ¾ßÀÇ ÃÖÀü¼±¿¡¼ Çõ½ÅÀûÀÎ µ¹Æı¸¸¦ ¸¶·ÃÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÑ´Ù. ÀÌÁ¦ ¸Ó½Å·¯´× Ŭ·¯½ºÅ͸¦ ÀÌ¿ëÇØ Á¡Á¡ ´õ Á¤±³ÇØÁö´Â ´ë±Ô¸ð ÀÚ¿¬¾îó¸®(NLP), Ãßõ ½Ã½ºÅÛ, ÄÄÇ»ÅÍ ºñÀü ¸ðµ¨¿ë ¿öÅ©·Îµå¸¦ Ŭ¶ó¿ìµå TPU v4¿¡¼ ÈÆ·ÃÇÒ ¼ö ÀÖ°Ô µÆ´Ù. ´ë±Ô¸ð ¸ðµ¨ÀÇ °í¼Ó ÈƷõµ °¡´ÉÇÏ´Ù. °¢°¢ÀÇ Å¬¶ó¿ìµå TPU v4 Æ÷µå´Â 4,096°³ÀÇ Ä¨ÀÌ »óÈ£¿¬°áµÈ ÃÊ°í¼Ó ³×Æ®¿öÅ©·Î ±¸¼ºµÇ¾î Àִµ¥, È£½ºÆ® ´ç 6Tbps(ÃÊ´ç Å׶óºñÆ®) ´ë¿ªÆøÀ» Áö¿øÇØ ¾÷°è ÃÖ°í ¼Óµµ¸¦ Á¦°øÇÑ´Ù.
±¸±Û Ŭ¶ó¿ìµå ¸Ó½Å·¯´× Ŭ·¯½ºÅÍ´Â ¸ðµ¨ ÈƷÿ¡ ÇÊ¿äÇÑ ¿¬»ê ´É·ÂÀ» ºñ¿ë ´ëºñ ¸Å¿ì ¶Ù¾î³ ¼º´ÉÀ¸·Î Á¦°øÇÑ´Ù. ÇÇÅ© Ç÷ӽº(peak FLOPS)¸¦ ½Ã½ºÅÛ ¼º´ÉÀÇ ºñ±³ ±âÁØÀ¸·Î »ï´Â °æ¿ì°¡ ¸¹Àºµ¥, Ŭ¶ó¿ìµå TPU v4 ĨÀº Ŭ¶ó¿ìµå TPU v3 ´ëºñ 2.2¹è³ª Çâ»óµÈ ÇÇÅ© Ç÷ӽº¸¦ Áö¿øÇϸç, ´Þ·¯ ´ç ÇÇÅ© Ç÷ӽºµµ 1.4¹è ³ô¾ÆÁ³´Ù. ½ÇÁ¦ ¸ðµ¨ ÈÆ·Ã ½Ã ÇÒ´çµÈ Àüü Ĩ¿¡¼ ¿¬»êÀÌ Áö¼ÓµÇ´ÂÁö ¿©ºÎ°¡ ¸ðµ¨ ÈÆ·ÃÀÇ È¿À²¼ºÀ» Á¿ìÇÑ´Ù. Ŭ¶ó¿ìµå TPU v4´Â ¼öõ °³ÀÇ Ä¨À¸·Î ¸Ó½Å·¯´× ¸ðµ¨ÀÇ ÈÆ·Ã ´É·ÂÀ» Çâ»ó½Ãų ¼ö ÀÖÀ¸¸ç, ³ôÀº ³×Æ®¿öÅ© ´ë¿ªÆø°ú ÄÄÆÄÀÏ·¯(compiler) ÃÖÀûÈ ´öºÐ¿¡ ´Ù¸¥ ½Ã½ºÅÛº¸´Ù È°¿ëµµ°¡ ¿ùµîÈ÷ ¿ì¼öÇÏ´Ù. À̸¦ ÅëÇØ ±â¾÷Àº ¸ðµ¨ ÈÆ·Ã ½Ã°£À» ´ÜÃàÇÏ¸é¼ ºñ¿ë È¿À²¼ºÀ» ³ôÀÏ ¼ö ÀÖ´Ù.
ÀÌ¿Ü¿¡µµ ±¸±Û Ŭ¶ó¿ìµå ¸Ó½Å·¯´× Ŭ·¯½ºÅÍ°¡ À§Ä¡ÇÑ ±¸±ÛÀÇ ¿ÀŬ¶óÈ£¸¶ µ¥ÀÌÅͼ¾ÅÍ´Â µ¿ÀÏÇÑ Àü·Â¸Á(grid) ¾È¿¡¼ ½Ã°£ ´ç 90%ÀÇ ¹«Åº¼Ò(CFE) ¿¡³ÊÁö·Î ¿î¿µµÈ´Ù´Â Á¡¿¡¼ ÁÖ¸ñÇÒ ¸¸ÇÏ´Ù. ±¸±ÛÀº Áö¼Ó°¡´É¼ºÀ» À§ÇÑ ³ë·ÂÀÇ ÀÏȯÀ¸·Î 2017³âºÎÅÍ µ¥ÀÌÅͼ¾ÅÍ ¹× Ŭ¶ó¿ìµå ¸®ÀüÀÇ ¿¬°£ ¿¡³ÊÁö ¼Òºñ·®°ú Àç»ý ¿¡³ÊÁö ±¸¸Å·®À» 100% µ¿ÀÏÇÏ°Ô ¸ÂÃß°í ÀÖÀ¸¸ç, 2030³â±îÁö Àüü ºñÁî´Ï½ºÀÇ ¹«Åº¼Ò ¿¡³ÊÁö ¿î¿µÀ» ¸ñÇ¥·Î ÇÏ°í ÀÖ´Ù.
±¸±Û Ŭ¶ó¿ìµå´Â Áö³ÇØ ±¸±Û I/O 2021¿¡¼ Ŭ¶ó¿ìµå TPU v4¸¦ óÀ½ ¹ßÇ¥ÇÏ°í LG AI¿¬±¸¿ø, Ä«Ä«¿Àºê·¹ÀÎ, ¸ÞŸAI(Meta AI), ¼¼ÀÏÁîÆ÷½º¸®¼Ä¡(Salesforce Research), ÄÚÈ÷¾î(Cohere) µî ±¹³»¿Ü À¯¼öÀÇ AI ¿¬±¸ÆÀ¿¡ Ŭ¶ó¿ìµå TPU v4 Æ÷µåÀÇ ¾ó¸® ¾×¼¼½º ¹öÀüÀ» Á¦°øÇß´Ù. ¿¬±¸ÆÀÀº Ŭ¶ó¿ìµå TPU v4ÀÇ ¶Ù¾î³ ¼º´É°ú È®À强À» ±àÁ¤ÀûÀ¸·Î Æò°¡Çß´Ù. Ŭ¶ó¿ìµå TPU v4´Â ºü¸¥ »óÈ£¿¬°á ¹× ÃÖÀûÈµÈ ¼ÒÇÁÆ®¿þ¾î ½ºÅÃ, »õ·Î¿î TPU VM ¾ÆÅ°ÅØó·Î ÀÚü ÀÎÅÍ·¢Æ¼ºê °³¹ß ȯ°æÀ» ¼³Á¤ÇÒ ¼ö ÀÖ´Â ±â´É, JAX∙ÆÄÀÌÅäÄ¡(PyTorch)∙ÅÙ¼Ç÷οì(Tensorflow) µî ¸Ó½Å·¯´× ÇÁ·¹ÀÓ¿öÅ© ¼±ÅÃÀÇ À¯¿¬¼º µîÀ» Á¦°øÇÑ´Ù. AI ¿¬±¸ÆÀÀº Ŭ¶ó¿ìµå TPU v4ÀÇ °¡°Ý ´ëºñ ¿ì¼öÇÑ ¼º´ÉÀ» ¹ÙÅÁÀ¸·Î ÃÖ÷´Ü ´ë±Ô¸ð ¸Ó½Å·¯´× ¸ðµ¨À» ÈÆ·ÃÇϸç AI ¿¬±¸ ¿µ¿ªÀ» ÇÑ ´Ü°è ´õ È®Àå½ÃÅ°°í ÀÖ´Ù.
LG AI¿¬±¸¿øÀº ±¸±Û Ŭ¶ó¿ìµåÀÇ Àü·«Àû ¿¬±¸ ÆÄÆ®³Ê·Î¼ ±¸±ÛÀÇ ÃֽŠ¸Ó½Å·¯´× ½´ÆÛÄÄÇ»ÅÍÀÎ TPU v4°¡ »ó¿ëȵDZâ Àü Å×½ºÆ®¿¡ Âü¿©ÇØ 3,000¾ï °³ ¸Å°³º¯¼ö ±Ô¸ðÀÇ ÃÊ°Å´ë AIÀÎ ‘LG EXAONE(¿¢»ç¿ø)’À» ÇнÀ½ÃÄ×´Ù.
Ä«Ä«¿Àºê·¹ÀÎ ¶ÇÇÑ Å¬¶ó¿ìµå TPU v4ÀÇ ´ë±Ô¸ð µ¥ÀÌÅÍ ÇнÀ Å×½ºÆ®¿¡ Âü¿©ÇØ ÃÊ°Å´ë AI ¾ð¾î ¸ðµ¨ ‘KoGPT’ÀÇ ¿¬±¸°³¹ß ¿ª·®À» °ÈÇß´Ù. Ä«Ä«¿Àºê·¹ÀÎÀº ±âÁ¸ÀÇ GPU ¼¹ö ȯ°æ¿¡ Ŭ¶ó¿ìµå TPU¸¦ Ãß°¡·Î µµÀÔÇØ ´ë±Ô¸ð ¸ðµ¨ ÇнÀ ½Ã ¹ß»ýÇÏ´Â ³×Æ®¿öÅ© º´¸ñ Çö»óÀ» ÇØ°áÇÏ°í 60¾ï °³ÀÇ ÆĶó¹ÌÅÍ¿Í 2000¾ï °³ ÅäÅ«(token)¿¡ ´ÞÇÏ´Â Çѱ¹¾î µ¥ÀÌÅ͸¦ ºü¸£°Ô ó¸®Çß´Ù. À̸¦ ÅëÇØ ¾ð¾î ¸ðµ¨ ¿¬±¸ ¹× °³¹ß¿¡ ¼Ò¿äµÇ´Â ½Ã°£À» ´ÜÃàÇÏ°í È¿À²ÀûÀÎ ¸ðµ¨ ÇнÀ ÇÁ·Î¼¼½º¸¦ ±¸ÃàÇÒ ¼ö ÀÖ¾ú´Ù.
¹è°æÈÆ LG AI¿¬±¸¿ø ¿øÀåÀº “¸ÖƼ¸ð´Þ ±â´ÉÀ» °®Ãá LG EXAONEÀº TPU v4¸¦ È°¿ëÇؼ 6,000¾ï °³ ÀÌ»óÀÇ ¸»¹¶Ä¡¿Í 2¾ï 5,000¸¸ °³ ÀÌ»óÀÇ À̹ÌÁö·Î ±¸¼ºµÈ ¹æ´ëÇÑ µ¥ÀÌÅ͸¦ ÇнÀÇÏ°í ÀÖÀ¸¸ç Ä¿¹Â´ÏÄÉÀ̼Ç, »ý»ê¼º, âÀǼº µîÀÇ Ãø¸é¿¡¼ Àΰ£ Àü¹®°¡¸¦ ¶Ù¾î³Ñ´Â °ÍÀ» ¸ñÇ¥·Î ÇÏ°í ÀÖ´Ù”¶ó¸ç, “TPU v4ÀÇ ¼º´ÉÀº µ¿±Þ ÃÖ°íÀÇ ÄÄÇ»Æà ¾ÆÅ°ÅØó¸¦ ´É°¡ÇÒ »Ó¸¸ ¾Æ´Ï¶ó °í°´ Áö¿ø ´É·Â ¿ª½Ã ±â´ë ÀÌ»óÀ̾ú´Ù. ±¸±Û°ú Çù·ÂÇÏ°Ô µÈ °ÍÀ» ¸Å¿ì ±â»Ú°Ô »ý°¢Çϸç, ´õ ³ªÀº »îÀ» À§ÇØ AI¸¦ ¹ßÀü½ÃŲ´Ù´Â LG AI¿¬±¸¿øÀÇ ±Ã±ØÀûÀÎ ºñÀüÀ» ´Þ¼ºÇÒ ¼ö ÀÖµµ·Ï ±¸±Û°ú Àü·«Àû ÆÄÆ®³Ê½ÊÀ» ±»°ÇÈ÷ À̾°¥ °Í”À̶ó°í ¸»Çß´Ù.
ÀåÈÁø ±¸±Û Ŭ¶ó¿ìµå ÄÚ¸®¾Æ »çÀåÀº “±¸±Û Ŭ¶ó¿ìµå´Â ±¸±Û °Ë»ö(Search), À¯Æ©ºê(YouTube)¿Í °°Àº ±¸±Û Á¦Ç°¿¡ ½ÇÁ¦·Î »ç¿ëµÇ´Â ¾÷°è ÃÖ°í ¼öÁØÀÇ AI ¼º´ÉÀ» ±¸±Û Ŭ¶ó¿ìµå °í°´¿¡°Ô Ŭ¶ó¿ìµå TPU¸¦ ÅëÇØ Á¦°øÇÏ°í ÀÖ´Ù”¶ó¸ç, “Ŭ¶ó¿ìµå TPU v4ÀÇ °·ÂÇÑ ¼º´É°ú ±â¼ú·ÂÀ» ¹ÙÅÁÀ¸·Î ±¹³» ±â¾÷ ¹× ¿¬±¸ ±â°üÀÌ Â÷¼¼´ë AI ¹× ¸Ó½Å·¯´× Çõ½ÅÀ» °¡¼ÓÈÇÒ ¼ö ÀÖµµ·Ï Àû±Ø Áö¿øÇÏ°Ú´Ù”¶ó°í ¸»Çß´Ù. |