ArmÀº ÃÖ±Ù Arm® Kleidi ±â¼úÀ» PyTorch ¹× ExecuTorch¿Í ÅëÇÕÇÏ¿© Â÷¼¼´ë ¾ÛÀÌ Arm CPU¿¡¼ ´ë±Ô¸ð ¾ð¾î ¸ðµ¨(LLM)À» ½ÇÇàÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÑ´Ù°í ¹ßÇ¥Çß´Ù. Kleidi´Â ÃֽŠ°³¹ßÀÚ Áö¿ø ±â¼ú°ú ÇÙ½É ¸®¼Ò½º¸¦ °áÇÕÇÏ¿© ML ½ºÅà Àü¹Ý¿¡¼ ±â¼ú Çù¾÷°ú Çõ½ÅÀ» ÃËÁøÇÑ´Ù. ÀÌ·¯ÇÑ Áß¿äÇÑ »õ·Î¿î °³¹ßÀ» ÅëÇØ ArmÀº °³¹ßÀÚ°¡ ML ½ºÅÃÀÇ ¾î´À ´Ü°è¿¡ ÀÖµç ¿øÈ°ÇÑ °æÇèÀ» ±Ø´ëÈÇÒ ¼ö ÀÖµµ·Ï ÇÑ´Ù.
ArmÀÇ °³¹ßÀÚ ±â¼ú ºÎ¹® ºÎ»çÀåÀÎ ¾Ë·º½º ½ºÇdzڸ®(Alex Spinelli)´Â “ArmÀº ¼ÒÇÁÆ®¿þ¾î °³¹ßÀÚ°¡ Arm ±â¹Ý Çϵå¿þ¾î¿¡¼ °¡¼ÓÈµÈ AI¿Í ML ¿öÅ©·Îµå¸¦ ½±°Ô ±¸ÇöÇÒ ¼ö Àִ ȯ°æÀ» Á¶¼ºÇϱâ À§ÇØ ¼±µµÀûÀΠŬ¶ó¿ìµå ¼ºñ½º Á¦°ø¾÷ü ¹× ÇÁ·¹ÀÓ¿öÅ©¿Í ±ä¹ÐÈ÷ Çù·ÂÇÏ°í ÀÖ´Ù”¸ç, “Kleidi´Â Ãâ½ÃµÈ Áö ºÒ°ú 4°³¿ù ¸¸¿¡ ÀÌ¹Ì °³¹ßÀ» °¡¼ÓÈÇÏ°í Arm CPU¿¡¼ ÁÖ¿ä AI ¼º´É Çâ»óÀ» ½ÇÇöÇÏ°í ÀÖÀ¸¸ç Arm°ú PyTorch Ä¿¹Â´ÏƼ¿ÍÀÇ ±ä¹ÐÇÑ Çù·ÂÀº ÇØ´ç ±â¼úÀÌ °³¹ßÀÚ°¡ È¿À²ÀûÀÎ AI¸¦ È°¿ëÇÏ´Â µ¥ ÇÊ¿äÇÑ ³ë·ÂÀ» ´ëÆø ÁÙ¿©ÁÖ´Â ÁÁÀº ¿¹”¶ó°í ¸»Çß´Ù.
ÁÖ¿ä ÇÁ·¹ÀÓ¿öÅ©¿ÍÀÇ ÅëÇÕÀ¸·Î Ŭ¶ó¿ìµåÀÇ ÇÙ½É ÀÌÁ¡ Á¦°ø
Ŭ¶ó¿ìµå¿¡¼ Kleidi´Â Arm ÄÄÇ»Æà ¶óÀ̺귯¸®(ACL)¸¦ ÅëÇØ PyTorch¸¦ °³¼±ÇÑ ArmÀÇ ±âÁ¸ ÀÛ¾÷À» ±â¹ÝÀ¸·Î ¸ðµç °÷¿¡¼ ArmÀÇ AI¸¦ ÃÖÀûÈÇϱâ À§ÇÑ Ã»»çÁøÀ» ¼ö¸³ÇÑ´Ù. ArmÀº °³¹ßÀÚ°¡ ºÒÇÊ¿äÇÑ ¿£Áö´Ï¾î¸µ ÀÛ¾÷À» Á÷Á¢ ¼öÇàÇÏÁö ¾Ê°íµµ Áß¿äÇÑ ML ¿öÅ©·Îµå¸¦ ½ÇÇàÇϱâ À§ÇÑ Ç÷§ÆûÀ¸·Î ArmÀ» ¼±ÅÃÇϱ⸦ ¿øÇÑ´Ù. ÀÌ ºñÀüÀ» ÇâÇÑ ÇÙ½É ´Ü°è·Î ArmÀº PyTorch ¹× TensorFlow¿Í Á÷Á¢ ÆÄÆ®³Ê½ÊÀ» ¸Î°í ÀÌ·¯ÇÑ ÁÖ¿ä ÇÁ·¹ÀÓ¿öÅ©¿¡ Á÷Á¢ ÅëÇÕµÈ Çʼö Arm Ä¿³Î(kernels)·Î ±¸¼ºµÈ Arm Kleidi ¶óÀ̺귯¸®¸¦ ÅëÇÕÇß´Ù.
Áï, ¾ÖÇø®ÄÉÀÌ¼Ç °³¹ßÀÚ´Â »õ·Î¿î ÇÁ·¹ÀÓ¿öÅ© ¹öÀüÀÌ Ãâ½ÃµÇ´Â Áï½Ã ArmÀ» ±â¹ÝÀ¸·Î ±¸ÃàÇϱâ À§ÇÑ Ãß°¡ ´Ü°è¸¦ °ÅÄ¡Áö ¾Ê°íµµ ±ØÀûÀÎ ¼º´É °³¼±ÀÇ ÀÌÁ¡À» ÀÚµ¿À¸·Î ´©¸± ¼ö ÀÖ´Ù. ÀÌ·¯ÇÑ ÅõÀÚÀÇ ±àÁ¤ÀûÀÎ ¿µÇâÀº ÀÌ¹Ì ÆÄÆ®³Ê½Ê¿¡¼ È®Àεǰí ÀÖ´Ù:
Meta Llama 3 ´ë±Ô¸ð ¾ð¾î ¸ðµ¨¿¡ ±â¹ÝÇϸç AWS Graviton ÇÁ·Î¼¼¼¿¡¼ ½ÇÇàµÇ´Â ArmÀÇ µ¥¸ð 꺿Àº ¸ÞÀζóÀÎ PyTorch¿¡¼ óÀ½À¸·Î ½Ç½Ã°£ äÆà ÀÀ´äÀ» Áö¿øÇÑ´Ù.
o AWS Graviton¿¡¼ ÃøÁ¤ÇÑ ±âÁØ ±âÁØ, Kleidi ±â¼úÀ» ¿ÀÇ ¼Ò½º PyTorch Äڵ庣À̽º¿¡ ÅëÇÕÇÑ ÈÄ Ã¹ ÅäÅ« »ý¼º ½Ã°£ÀÌ 2.5¹è ´ÜÃàµÆ´Ù.
ACLÀ» ÅëÇØ Á¦°øµÇ´Â Kleidi ±â¼úÀ» È¿À²ÀûÀ¸·Î È°¿ëÇϱâ À§ÇØ torch.compile¿¡ ÃÖÀûȸ¦ Àû¿ëÇÑ °á°ú, ´Ù¾çÇÑ Çã±ëÆäÀ̽º(Hugging Face) ¸ðµ¨ Ãß·Ð ¿öÅ©·Îµå¿¡¼ AWS Graviton3 ¼º´ÉÀÌ 1.35¹è¿¡¼ ÃÖ´ë 2¹è±îÁö Çâ»óµÆ´Ù.
ÀÌ µÎ °¡Áö ÀλóÀûÀΠŬ¶ó¿ìµå »ç·Ê´Â Arm¿¡¼ ML ¿öÅ©·Îµå¸¦ º¸ÆíÈÇϱâ À§ÇØ ³ë·ÂÇÏ¸é¼ ½ÇÇö °¡´ÉÇÑ ¼º´É °¡¼ÓÈÀÇ À¯ÇüÀ» ³ªÅ¸³½´Ù. ArmÀº °³¹ßÀÚ°¡ Áï½Ã È°¿ëÇÒ ¼ö ÀÖµµ·Ï »õ·Î¿î ±â´ÉÀ» ÀÌÀü ¹öÀü°ú ȣȯµÇµµ·Ï ÇÏ´Â µî °³¹ßÀÚÀÇ AI ¾ÛÀÌ Å¬¶ó¿ìµåºÎÅÍ ¿§Áö±îÁö ÀÚ»ç ±â¼ú¿¡¼ ÃÖ»óÀÇ ¼º´ÉÀ» ¹ßÈÖÇÒ ¼ö ÀÖµµ·Ï Áö¼ÓÀûÀ¸·Î ÅõÀÚÇÏ°í ÀÖ´Ù.
°³¹ßÀÚ°¡ »ý¼ºÇü AI¿¡ ´ëÀÀÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÏ´Â ÆÄÆ®³Ê½Ê
»ý¼ºÇü AI´Â Àü·Ê ¾ø´Â ¼Óµµ·Î »õ·Î¿î ¹öÀüÀÇ ¾ð¾î ¸ðµ¨ÀÌ Ãâ½ÃµÇ´Â µî AI Çõ½ÅÀÇ ¹°°á¿¡ ¹ÚÂ÷¸¦ °¡ÇÏ°í ÀÖ´Ù. ArmÀº °³¹ßÀÚ°¡ ¾Õ¼ ³ª°¥ ¼ö ÀÖµµ·Ï AWS, Google°ú °°Àº Ŭ¶ó¿ìµå ¼ºñ½º Á¦°ø¾÷ü, ±×¸®°í ºü¸£°Ô ¼ºÀåÇÏ°í ÀÖ´Â Databricks¿Í °°Àº ML ISV Ä¿¹Â´ÏƼ¸¦ ºñ·ÔÇÑ ML ½ºÅÃÀÇ ¸ðµç ÁÖ¿ä ºÎºÐ°ú ±ä¹ÐÈ÷ Çù·ÂÇÏ°í ÀÖ´Ù.
Google Cloud Á¦Ç° °ü¸® ½Ã´Ï¾î µð·ºÅÍÀÎ ´Ï¶óºê ¸ÞŸ(Nirav Mehta)´Â “Arm°ú ´ç»ç´Â ¸ðµÎ °³¹ßÀÚÀÇ AI Á¢±Ù¼º°ú ¹Îø¼ºÀ» ³ôÀ̱â À§ÇØ ³ë·ÂÇÏ°í ÀÖÀ¸¸ç, Kleidi´Â AI ¿ä±¸»çÇ׿¡ ¸Â°Ô Çϵå¿þ¾î¿Í ¼ÒÇÁÆ®¿þ¾î¸¦ °øµ¿ ÃÖÀûÈÇÏ´Â µ¥ Å« ÁøÀüÀ» ÀÌ·ð´Ù”¸ç, “°í°´ÀÌ ¸ÂÃãÇü Arm ±â¹Ý CPUÀÎ AxionÀ» µµÀÔÇÔ¿¡ µû¶ó Àüü ML ½ºÅÿ¡¼ ´õ¿í ¿øÈ°ÇÏ°Ô ÅëÇÕÇÒ ¼ö ÀÖ°Ô µÇ±â¸¦ ±â´ëÇÑ´Ù”°í ÀüÇß´Ù.
DatabricksÀÇ ¼ÒÇÁÆ®¿þ¾î ¿£Áö´Ï¾îÀÎ ¸° À¯¾È(Lin Yuan)Àº “AI ¹× ML ¿öÅ©Ç÷ο츦 À§ÇØ ´ç»çÀÇ µ¥ÀÌÅÍ ÀÎÅÚ¸®Àü½º Ç÷§Æû(Data Intelligence Platform)À» È°¿ëÇÏ´Â Á¶Á÷Àº ML ¼ÒÇÁÆ®¿þ¾î ½ºÅà Àü¹Ý¿¡¼ Arm Kleidi ÅëÇÕÀÌ Á¦°øÇÏ´Â ¼º´É ÃÖÀûÈÀÇ ÀÌÁ¡À» ´©¸± ¼ö ÀÖ´Ù”¸ç, “´ç»çÀÇ ML ·±Å¸ÀÓ(ML Runtime) Ŭ·¯½ºÅÍ¿¡¼ Áö¿øÇÏ´Â Arm ±â¹Ý AWS Graviton ÇÁ·Î¼¼¼¸¦ ÅëÇØ ±â¾÷Àº ±¤¹üÀ§ÇÑ ML ¶óÀ̺귯¸®ÀÇ ¼Óµµ¸¦ ³ôÀÌ´Â µ¿½Ã¿¡ Ŭ¶ó¿ìµå ¼ºñ½º Á¦°ø¾÷üÀÇ ºñ¿ëÀ» Àý°¨ÇÏ´Â ÀÌÁ¡À» ´©¸± ¼ö ÀÖ´Ù”°í ÀüÇß´Ù.
°³¹ßÀÚ°¡ ArmÀÌ Á¦°øÇÏ´Â ¸®¼Ò½º¸¦ ½ÇÁ¦ »ç¿ë »ç·Ê¿¡ Àû¿ëÇÏ´Â °ÍÀÌ Áß¿äÇϱ⠶§¹®¿¡ ArmÀº °³¹ßÀÚ¿¡°Ô Arm CPU¿¡¼ AI ¿öÅ©·Îµå¸¦ ±¸ÃàÇÏ´Â ¹æ¹ýÀ» º¸´Ù Á¤È®È÷ º¸¿©ÁÖ±â À§ÇØ ÇнÀ °æ·Î¿Í ÇÔ²² µ¥¸ð ¼ÒÇÁÆ®¿þ¾î ½ºÅÃÀ» Á¦ÀÛÇÏ°í ÀÖ´Ù. À̸¦ ÅëÇØ °³¹ßÀÚ´Â Arm ½Ã½ºÅÛÀ» ºü¸£°Ô äÅÃÇÏ°í ¹èÆ÷ ½Ã°£À» ´ÜÃàÇÒ ¼ö ÀÖ´Ù. ÀÌ·¯ÇÑ ½ºÅà Áß Ã¹ ¹ø° »ç·ÊÀÎ Kleidi ±â¼ú·Î °¡¼ÓÈµÈ Ã¤Æà º¿ ±¸Çö¿¡ ´ëÇÑ ÀÚ¼¼ÇÑ ³»¿ëÀº ÀÌ°÷¿¡¼ È®ÀÎÇÒ ¼ö ÀÖ´Ù. 2024³â ¸»¿¡´Â ML ¿î¿µ ¹× °Ë»ö Áõ° »ý¼º(RAG)ÀÌ ÀÌ·¯ÇÑ »ç¿ë »ç·Ê¿¡ Ãß°¡µÉ °ÍÀ̸ç, 2025³â¿¡´Â ´õ ¸¹Àº »ç¿ë »ç·Ê°¡ Ãß°¡µÉ ¿¹Á¤ÀÌ´Ù.
¿§Áö¿¡¼ Áö¼ÓÀûÀÎ ¼º´É Çâ»ó ÃßÁø
¿§Áö¿¡¼ÀÇ KleidiÀÇ ¸ð¸àÅÒÀ» ¹ÙÅÁÀ¸·Î, KleidiAI´Â PyTorchÀÇ »õ·Î¿î ¿Âµð¹ÙÀ̽º Ãß·Ð ·±Å¸ÀÓÀÎ ExecuTorch¿¡ ÅëÇÕµÉ °èȹÀÌ´Ù. ÀÌ ÅëÇÕÀº 2024³â 10¿ù¿¡ ¿Ï·áµÉ ¿¹Á¤À̸ç, ÇöÀç ExecuTorch¿¡¼ ÇÁ·Î´ö¼Ç Å×½ºÆ® ÁßÀ̰ųª Ãâ½Ã ÁßÀÎ ¾Û Àü¹Ý¿¡¼ ¿§Áö µð¹ÙÀ̽ºÀÇ ¼º´ÉÀÌ Å©°Ô Çâ»óµÉ Àü¸ÁÀÌ´Ù. ÅëÇÕÀÌ ¿Ï·áµÇ¸é ¿§Áö ±â±â ¼º´É¿¡ ¹ÌÄ¡´Â ¿µÇâ¿¡ ´ëÇÑ ´õ ¸¹Àº µ¥ÀÌÅÍ¿Í ¼¼ºÎ Á¤º¸°¡ °øÀ¯µÉ ¿¹Á¤ÀÌ´Ù.
ÀÌ´Â GoogleÀÇ XNNPACK ¹× MediaPipe, ±×¸®°í TencentÀÇ Hunyuan LLM µî ArmÀÌ ÀÌ¹Ì ¹ßÇ¥ÇÑ ¿©·¯ KleidiAI ÅëÇÕ¿¡ ÇÕ·ùµÈ´Ù. 꺿 µ¥¸ð¿¡¼ ½ÇÁ¦ ¿öÅ©·Îµå¿¡ ¹ÌÄ¡´Â ¿µÇâ¿¡ ´ëÇÑ ÀÚ¼¼ÇÑ ³»¿ëÀ» È®ÀÎÇÒ ¼ö ÀÖ´Ù.
Kleidi°¡ ´Ù¸¥ ¸ðµç ÁÖ¿ä AI ÇÁ·¹ÀÓ¿öÅ©¿Í ÇÔ²² PyTorch ¹× ExecuTorch ¸±¸®½º¿Í °è¼Ó ÅëÇյʿ¡ µû¶ó °³¹ßÀڴ Ŭ¶ó¿ìµå µ¥ÀÌÅÍ ¼¾ÅÍ¿¡¼ ¿§Áö µð¹ÙÀ̽º¿¡ À̸£´Â ´Ù¾çÇÑ µð¹ÙÀ̽º¿¡¼ Arm¿¡¼ È¿À²ÀûÀÌ°í ¼º´ÉÀÌ ¶Ù¾î³ AI ¿öÅ©·Îµå¸¦ Áï½Ã ½ÇÇàÇÒ ¼ö ÀÖ´Ù. ArmÀº ¾ÕÀ¸·Îµµ PyTorch Ä¿¹Â´ÏƼ¿¡ °³¼± »çÇ×À» Àû±ØÀûÀ¸·Î µµÀÔÇÒ ¿¹Á¤À̸ç, ÇâÈÄ ´Ù¾çÇÑ Á¤¼ö Çü½Ä¿¡ ´ëÇÑ ¾çÀÚÈ ÃÖÀûȸ¦ Á¦°øÇÏ¿© ¼º´ÉÀ» ´õ¿í Çâ»ó½ÃÅ°´Â µ¥ ÁÖ·ÂÇÒ °èȹÀÌ´Ù. ÀÌ·¯ÇÑ ÀÛ¾÷À» ÅëÇØ Â÷¼¼´ë AI °æÇèÀ» ´ë±Ô¸ð·Î Arm CPU¿¡¼ ¿øÈ°ÇÏ°Ô ±¸ÇöÇÒ ¼ö ÀÖ°Ô µÈ´Ù.
°³¹ßÀÚÀÇ ¿ª·®À» ´õ¿í °ÈÇϱâ À§ÇÑ Ãß°¡ Áö¿ø
PyTorch´Â ML °³¹ß ºÐ¾ß¿¡¼ »ó´çÇÑ Çõ½ÅÀ» ÁÖµµÇÏ°í ÀÖÀ¸¸ç, ÃÖ±Ù ArmÀº AI ¿©Á¤ÀÇ ºÐ¼ö·ÉÀÌ µÉ PyTorch Àç´Ü¿¡ ÇÁ¸®¹Ì¾î ¸â¹ö·Î ÇÕ·ùÇßÀ½À» ¹ßÇ¥Çß´Ù. ArmÀº ¿£µåÅõ¿£µå AIÀÇ ÀáÀç·ÂÀ» ÃÖ´ëÇÑ ¹ßÈÖÇÏ¿© Àü ¼¼°è °³¹ßÀÚµéÀÌ ÃÖ÷´Ü AI ¹× ¾ÖÇø®ÄÉÀÌ¼Ç ±â´ÉÀ» °³¹ßÇÒ ¼ö ÀÖµµ·Ï Áö¼ÓÀûÀ¸·Î Áö¿øÇÏ°í ÀÖ´Ù.