µ¨ Å×Å©³î·ÎÁö½º(Dell Technologies)°¡ ¾÷°è ÃÖÃÊ·Î ÀÎÅÚ °¡¿ìµð 3(Intel® Gaudi® 3) PCIe °¡¼Ó±â¸¦ ÅëÇÕ ±¸¼ºÇÑ ‘µ¨ ÆÄ¿ö¿§Áö XE7740 (Dell PowerEdge XE7740)’ ¼¹ö¸¦ Ãâ½ÃÇß´Ù°í ¹àÇû´Ù.
‘µ¨ ÆÄ¿ö¿§Áö XE7740’Àº ÆÄ¿ö¿§Áö R ½Ã¸®ÁîÀÇ ÅëÇÕ ¿ëÀ̼º°ú XE ½Ã¸®ÁîÀÇ ¼º´É ¹× È®À强À» °áÇÕÇÑ 4U ÆûÆÑÅÍ ¼¹ö·Î¼ °·ÂÇÑ ¼º´É, ºñ¿ë È¿À²¼º, À¯¿¬¼ºÀ» ¹ÙÅÁÀ¸·Î ±â¾÷µéÀÌ ¿£ÅÍÇÁ¶óÀÌÁî AI¿¡ ´ëÇÑ Á¢±Ù¼ºÀ» ³ôÀÏ ¼ö ÀÖµµ·Ï ¼³°èµÇ¾ú´Ù.
°ËÁõµÈ AI °¡¼Ó±â Áö¿ø°ú À¯¿¬ÇÑ ±¸¼º
µ¨ ÆÄ¿ö¿§Áö XE7740 ¼¹ö´Â ±âÁ¸ µ¥ÀÌÅͼ¾ÅÍ¿¡ ¿øÈ°ÇÏ°Ô ±¸ÃàÇÒ ¼ö ÀÖ´Â ÃÖÀûÈµÈ ±Ô¸ðÀÇ ¼Ö·ç¼ÇÀ» Á¦°øÇÑ´Ù. µ¿½Ã¿¡ LLM(´ë±Ô¸ð ¾ð¾î ¸ðµ¨)ÀÇ ¹Ì¼¼ Á¶Á¤ ¹× °í¼º´É Ãß·ÐÀ» Æ÷ÇÔÇÑ ±¤¹üÀ§ÇÑ AI ¿öÅ©·ÎµåÀÇ ¹èÆ÷¿Í ¿î¿µÀ» °£¼ÒÈÇØ ¿£ÅÍÇÁ¶óÀÌÁî AIÀÇ °¡°Ý ´ëºñ ¼º´É¿¡ ´ëÇÑ »õ·Î¿î ±âÁØÀ» Á¦½ÃÇÑ´Ù.
À̹ø ½ÅÁ¦Ç°Àº ÃÖ´ë 8°³ÀÇ ´õºí ¿ÍÀÌµå ¶Ç´Â PCIe °¡¼Ó±â¸¦ ¼ö¿ëÇÒ ¼ö ÀÖ´Â À¯¿¬ÇÑ ±¸¼ºÀ» Á¦°øÇÑ´Ù. ÃÖ´ë 8°³ÀÇ °³º° °¡¿ìµð 3 °¡¼Ó±â¸¦ žÀçÇÒ ¼ö ÀÖÀ¸¸ç, ¿É¼ÇÀ¸·Î 2°³ÀÇ 4-¿þÀÌ(4-way) ºê¸´Áö °¡¼Ó±â ±×·ìÀ» ±¸¼ºÇÏ´Â °Íµµ °¡´ÉÇÏ´Ù. RoCE(RDMA ¿À¹ö ÄÁ¹öÁöµå ÀÌ´õ³Ý) v2¸¦ ÅëÇÑ 4-¿þÀÌ(4-way) °¡¿ìµð 3 PCIe °¡¼Ó±â ºê¸´Áö ¿¬°áÀº ´ë±Ô¸ð AI ¸ðµ¨°ú ´õ Å« ¸Þ¸ð¸® °ø°£À» ¿øÈ°È÷ Áö¿øÇϸç, ¿öÅ©Ç÷οì È®À强°ú À¯¿¬¼ºÀ» º¸ÀåÇÑ´Ù.
¶ÇÇÑ 8°³ÀÇ Ç¥ÁØ ³ôÀÌ PCIe ½½·Ô°ú ÅëÇÕ OCP ³×Æ®¿öÅ· ¸ðµâÀ» ÅëÇØ °¡¼Ó±â¿Í ³×Æ®¿öÅ© ÀÎÅÍÆäÀ̽º Ä«µå(NIC)¸¦ ÃÖ´ë 1:1 ºñÀ²·Î ¸ÅĪÇÒ ¼ö ÀÖ´Â À¯¿¬ÇÑ ³×Æ®¿öÅ·À» Á¦°øÇÑ´Ù. ±âÁ¸ ÀÎÇÁ¶ó¿¡ ¿øÈ°ÇÏ°Ô ÅëÇÕ°¡´ÉÇÑ µ¨ ÆÄ¿ö¿§Áö XE7740Àº ¸¹Àº ±â¾÷µéÀÌ Á÷¸éÇϰí ÀÖ´Â ·¢´ç Àü·Â ÇѰ踦 ±Øº¹ÇÏ¿© ±âÁ¸ µ¥ÀÌÅÍ ¼¾ÅÍ¿¡¼ ÀϹÝÀûÀ¸·Î »ç¿ëµÇ´Â ÃÖ´ë 10kW ·¢¿¡¼ È¿À²ÀûÀ¸·Î ÀÛµ¿ÇÑ´Ù.
¿£ÅÍÇÁ¶óÀÌÁî AI¸¦ À§ÇÑ ¼³°è
¿£ÅÍÇÁ¶óÀÌÁî AI¸¦ À§ÇÑ Á¦Ç°À¸·Î¼ ±âÁ¸ÀÇ °ø³Ã½Ä ·¢¿¡ ÀåÂøÇÒ ¼ö ÀÖ´Â XE7740Àº ‘µ¨ ½º¸¶Æ® Äð¸µ(Dell Smart Cooling)’ ¼Ö·ç¼ÇÀÌ Àû¿ëµÆ´Ù. ¶ÇÇÑ ¶ó¸¶4(Llama4), ¶ó¸¶3(Llama3), µö½ÃÅ©(Deepseek), ÆÄÀÌ4(Phi4), Äí¿£3(Qwen3), ÆÈÄÜ3(Falcon3) µî°ú °°Àº Àα⠸𵨿¡ ÃÖÀûÈµÇ¾î ¿øÈ°ÇÑ AI ¿öÅ©Ç÷οì ÅëÇÕÀ» Áö¿øÇÑ´Ù. ´Ù¾çÇÑ ±âÁ¸ ¸ðµ¨ īŻ·Î±×¿Í ÇÔ²² °¡¿ìµð 3¸¦ »ç¿ëÇÏ¸é ±â¾÷¿¡¼ ¼Õ½±°Ô AI µµÀÔÀ» °¡¼ÓÈÇÒ ¼ö ÀÖÀ¸¸ç, Å« ºñ¿ëÀÌ ¼Ò¸ðµÇ´Â Àü·Â ¹× ³Ã°¢ ¾÷±×·¹ÀÌµå ¾øÀ̵µ ³ôÀº ¼º´ÉÀ» º¸ÀåÇÑ´Ù.
µ¨ ÆÄ¿ö¿§Áö XE7740Àº ´ÙÀ½°ú °°Àº ´Ù¾çÇÑ AI ¿öÅ©·Îµå¸¦ Áö¿øÇØ ¿£ÅÍÇÁ¶óÀÌÁî AI¿¡ ÃÖÀûȵǾî ÀÖ´Ù.
- LLM(´ë±Ô¸ð ¾ð¾î ¸ðµ¨) Ãß·Ð ¹× ¹Ì¼¼ Á¶Á¤
- À̹ÌÁö ¹× À½¼º Àνİú °°Àº ¸ÖƼ ¸ð´Þ AI ¾ÖÇø®ÄÉÀ̼Ç
- µ¥ÀÌÅÍ Áý¾àÀûÀÎ ÀÇ·á ºÐ¼® ¹× À¯Àüü ¿°±â¼¿ ºÐ¼®
- ±ÝÀ¶ ¼ºñ½º »ç±â ŽÁö ¹× À§Çè ¿ÏÈ
- À¯Åë ¹× ÀüÀÚ»ó°Å·¡ÀÇ ½Ç½Ã°£ °³ÀÎÈ
AI ¿öÅ©·Îµå°¡ Áõ°¡ÇÔ¿¡ µû¶ó ±â¾÷À̳ª ±â°üµéÀº »ç¿ë·® ±â¹ÝÀ¸·Î °ú±ÝÇÏ´Â GPU °¡¼Ó±â ±¸µ¶ ºñ¿ëÀ̳ª Ŭ¶ó¿ìµå µ¥ÀÌÅÍÀÇ ¿ÜºÎ Àü¼Û(egress) ºñ¿ë¿¡ Å« ºÎ´ãÀ» ´À³¢°í ÀÖ´Ù. µ¨ ÆÄ¿ö¿§Áö XE7740Àº ÀÌ·± ºñ¿ëÀ» Àý°¨Çϸ鼵µ ¶Ù¾î³ ¼º´É°ú µ¥ÀÌÅÍ º¸¾ÈÀ» È®º¸ÇØ ¿ÂÇÁ·¹¹Ì½º AI ÇÁ·ÎÁ§Æ®¸¦ °£¼ÒÈÇϴµ¥ Æ¯ÈµÈ ¼Ö·ç¼ÇÀÌ´Ù.
Çѱ¹ µ¨ Å×Å©³î·ÎÁö½ºÀÇ ±è°æÁø ÃѰý»çÀåÀº “ÇöÀçÀÇ °æÀï·ÂÀ» À¯ÁöÇϰí AI ¹Ì·¡¿¡ ´ëºñÇϱâ À§Çؼ´Â È®ÀåÀÌ ¿ëÀÌÇϰí ÀûÀÀ·ÂÀÌ ¶Ù¾î³ ÀÎÇÁ¶ó¸¦ È®º¸ÇØ À¯¿¬ÇÑ Áغñ ż¼¸¦ °®Ãß¾î¾ß ÇÑ´Ù. °ËÁõµÈ AI ¼³°è¿Í ±âÁ¸ ¿¡ÄڽýºÅÛ°úÀÇ ¿øÈ°ÇÑ ÅëÇÕÀÌ °¡´ÉÇÑ XE7740Àº °æÀïÀÌ Ä¡¿ÇÑ ½ÃÀå¿¡¼ ƯÈ÷ ÁÖ¸ñÇÒ ¸¸ÇÑ Á¦Ç°ÀÌ´Ù”¶ó°í ¸»Çß´Ù.