Ä«Ä«¿À¿£ÅÍÇÁ¶óÀÌÁî(´ëÇ¥ ÀÌ°æÁø)°¡ 22ÀÏ °æ±âµµ ¿ëÀνà īī¿À AI Ä·ÆÛ½º¿¡¼ °³¸·ÇÏ´Â ÀÌÇÁÄ«Ä«¿À(if kakaoAI 2024) °³¹ßÀÚ ÄÁÆÛ·±½º¿¡¼ Ŭ¶ó¿ìµå GPU, ºñÀü AI, ¸Ó½Å·¯´×, °Ë»öÁõ°»ý¼º(RAG) µî ´Ù¾çÇÑ ÁÖÁ¦·Î ¹ßÇ¥¸¦ ÁøÇàÇÑ´Ù.
2018³â¿¡ ½ÃÀÛÇØ 6ȸ°¸¦ ¸Â´Â ÀÌÇÁÄ«Ä«¿À´Â Ä«Ä«¿À ±×·ìÀÇ ±â¼ú ºñÀüÀ» °ø°³ÇÏ°í ±â¼úÀû ¼ºÃë¿¡ ´ëÇØ °³¹ßÀÚ Ä¿¹Â´ÏƼ¿Í ÇÔ²² °øÀ¯ÇÏ´Â Çà»ç´Ù. Ä«Ä«¿À´Â À̹ø ÄÁÆÛ·±½ºÀÇ ÇÙ½É ÁÖÁ¦¸¦ AI·Î Á¤ÇÏ°í, ¸ðµç ¿¬°áÀ» »õ·Ó°Ô¶ó´Â ½½·Î°Ç ¾Æ·¡ Ä«Ä«¿ÀÀÇ ±â¼ú°ú °ü·Ã Áö½ÄÀ» Âü°¡ÀÚµé°ú °øÀ¯ÇÑ´Ù.
Ä«Ä«¿À¿£ÅÍÇÁ¶óÀÌÁî´Â À̹ø ÀÌÇÁÄ«Ä«¿À¿¡¼ ÃÑ 4°³ÀÇ ±â¼ú ¼¼¼Ç¿¡ Âü¿©ÇÑ´Ù. À̹ø ±â¼ú ¼¼¼ÇÀ» ÅëÇØ Ä«Ä«¿À°¡ ±×·ì Â÷¿ø¿¡¼ ¼±º¸ÀÌ´Â AI ±â¼ú°ú AI ÀÎÇÁ¶óÀÇ ±Ù°£ÀÌ µÇ´Â Ŭ¶ó¿ìµå ±â¼ú·ÂÀ» È®ÀÎÇÒ ¼ö ÀÖ´Ù.
Çà»ç ù³¯, ºñÀü AI °ü·Ã ¼ºñ½º¸¦ °³¹ßÇÏ´Â ±è¹ÎÁÖ ¸Å´ÏÀú´Â ¹Ìµð¾î ¹× AI °¡¼Ó±â¸¦ žÀçÇÑ Ä«Ä«¿ÀŬ¶ó¿ìµåÀÇ ºñµð¿À ÀνºÅϽº È°¿ë±â¸¦ ÁÖÁ¦·Î ¹ßÇ¥¸¦ ÁøÇàÇÑ´Ù. ÇØ´ç ¼¼¼Ç¿¡¼´Â È»ó ȸÀÇ, ½Ç½Ã°£ Áß°è, ¶óÀ̺êÄ¿¸Ó½º µî ¿µ»ó ½ºÆ®¸®¹Ö µ¥ÀÌÅ͸¦ ´õ¿í ºü¸£°í È¿À²ÀûÀ¸·Î ó¸®ÇÒ ¼ö ÀÖ´Â ¹Ìµð¾î °¡¼Ó ÀνºÅϽº 2Á¾°ú ¿µ»ó ³»¿¡¼ ÀλóÂøÀÇ °Ë»ö(¹Ì¾Æ, Ä¡¸Å ³ëÀΠã±â), Â÷·® ¹øÈ£ °Ë»ö ¹× °æ·Î ÃßÀû µî AI ¸ðµ¨À» È°¿ëÇØ ¿µ»óÀ» ºÐ¼®ÇÒ ¼ö ÀÖ´Â AI °¡¼Ó ÀνºÅϽº' 1Á¾À» ¼Ò°³ÇÑ´Ù.
¶ÇÇÑ ±è¹ÎÁÖ ¸Å´ÏÀú´Â ¿©·¯ ÀÚµ¿Â÷°¡ ÃÔ¿µµÈ °Å¸®ºä ¿µ»ó¿¡¼ »ö»ó, ºê·£µå, Â÷Á¾ µîÀÇ Á¤º¸¸¦ ºÐ·ùÇس»´Â °úÁ¤À» ½Ã¿¬ÇÑ´Ù. AI °¡¼Ó ÀνºÅϽº¿¡¼ ¼Õ½±°Ô ºñÀü AI ¸ðµ¨À» Àû¿ëÇØ ¿µ»ó¿¡¼ ÀÚµ¿Â÷¸¦ ½Äº°ÇÏ°í ÀÚµ¿Â÷ÀÇ »ö»ó, ºê·£µå, Â÷Á¾ ÃÑ 3°¡ÁöÀÇ Ãß·ÐÀ» ½ÇÇàÇÏ¸ç ±× °á°ú¸¦ ¿µ»ó ÇÁ·¹ÀÓ¿¡ ¿À¹ö·¹ÀÌ ¹× ÀÎÄÚµùÇÏ´Â ÃÑ 3´Ü°è °úÁ¤À» ¼³¸íÇÑ´Ù.
µ¥ÀÌÅÍ ¹× ¸Ó½Å·¯´× Ç÷§Æû ÇÁ·Î´öÆ® ¸Å´ÏÀú(PM)¸¦ ¸Ã°í ÀÖ´Â ÁøÀº¿ë ÆÄÆ®ÀåÀº Ä«Ä«¿ÀŬ¶ó¿ìµåÀÇ ¸Ó½Å·¯´× ¿î¿µ(ÀÌÇÏ MLOps) Ç÷§ÆûÀ» ¼Ò°³ÇÏ°í À̸¦ È°¿ëÇØ ·Îµå¹ë·±¼ ¾×¼¼½º ·Î±× ±â¹ÝÀÇ Æ®·¡ÇÈ ¿¹Ãø ¸Ó½Å·¯´× ¸ðµ¨À» ¸¸µå´Â ¿¹Á¦¸¦ ½Ã¿¬ÇÑ´Ù. MLOps´Â ±â°èÇнÀ(Machine Learning)°ú ¿î¿µ(Operation)ÀÇ ÇÕ¼º¾î·Î ¸Ó½Å·¯´× ¸ðµ¨ÀÇ °³¹ß, ¹èÆ÷, ¿î¿µÀ» È¿À²ÀûÀÌ°í ¾ÈÁ¤ÀûÀ¸·Î °ü¸®ÇÏ´Â ÇÁ·¹ÀÓ¿öÅ©´Ù.
ÁøÀº¿ë ÆÄÆ®ÀåÀº Ä«Ä«¿ÀŬ¶ó¿ìµåÀÇ MLOps ¿öÅ©Ç÷ο츦 ¼öÁý(Ingestion), Áغñ(Preparation), ºÐ¼® ¹× ¸Ó½Å·¯´×(Analytic & Machine Learning) ÃÑ 3´Ü°è·Î ³ª´² ¼³¸íÇß´Ù. ¶ÇÇÑ Ä«Ä«¿ÀŬ¶ó¿ìµåÀÇ °·ÂÇÑ ÄÄÇ»Æà ¹× ³×Æ®¿öÅ© ¼º´ÉÀÌ ¸Ó½Å·¯´× ¿î¿µÀ» ¾ÈÁ¤ÀûÀ¸·Î µÞ¹ÞħÇÏ°í ÀÖ´Ù°í µ¡ºÙ¿´´Ù.
¸ÕÀú µ¥ÀÌÅÍ ¼öÁý ´Ü°è¿¡¼´Â ½Ç½Ã°£ ½ºÆ®¸®¹Ö µ¥ÀÌÅͺÎÅÍ ´ë±Ô¸ð ¹èÄ¡ µ¥ÀÌÅ͸¦ È¿À²ÀûÀ¸·Î ¼öÁýÇϱâ À§ÇØ ´ë±Ô¸ð ¸Þ½ÃÁö µ¥ÀÌÅ͸¦ È¿À²ÀûÀ¸·Î °ü¸®ÇÒ ¼ö ÀÖ´Â Pub/Sub, ´ë¿ë·® µ¥ÀÌÅ͸¦ ¾ÈÁ¤ÀûÀ¸·Î ÀúÀåÇÒ ¼ö ÀÖ´Â ½ºÅ丮Áö ¼ºñ½ºÀÎ Beyond Storage Service(BSS)¸¦ Á¦°øÇÏ°í ÀÖ´Ù.
µ¥ÀÌÅÍ Áغñ ´Ü°è¿¡¼´Â µ¥ÀÌÅÍ Á¤Á¦, º¯È¯, ÅëÇÕ ÀÛ¾÷ÀÌ ÀÌ·ïÁö¸ç À̸¦ Áö¿øÇϱâ À§ÇØ ºÐ»ê µ¥ÀÌÅÍ Ã³¸® ÇÁ·¹ÀÓ¿öÅ©ÀÎ ÇÏµÓ ¿¡ÄÚ(Hadoop Eco), ¸ÞŸ µ¥ÀÌÅ͸¦ ¼Õ½±°Ô °ü¸®ÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÏ´Â µ¥ÀÌÅÍ Ä«Å»·Î±×(Data Catalog)¸¦ Áö¿øÇÑ´Ù.
¼öÁýµÈ µ¥ÀÌÅÍ°¡ ÁغñµÇ¸é ºÐ¼® ¹× ¸Ó½Å·¯´× ´Ü°è¿¡¼ ºü¸£°í È¿À²ÀûÀÎ Äõ¸®¿Í ºÐ¼®À» Áö¿øÇÏ´Â µ¥ÀÌÅÍ Äõ¸®(Data Query)¿Í ¸Ó½Å·¯´× ¿öÅ©ÇÃ·Î¿ì °ü¸®¿Í ÀÚµ¿È¸¦ Áö¿øÇÏ´Â ¿ÀǼҽº Ç÷§ÆûÀÎ Äí¹öÇ÷οì(Kubeflow)¸¦ È°¿ëÇÒ ¼ö ÀÖ´Ù.
AI ±â¹ÝÀ¸·Î °Ë»ö ¸ðµ¨À» °íµµÈÇÏ°í ÀÖ´Â ±èµµÀ± °Ë»öCIC RAG¸ðµ¨¸µTFÀåÀº °Å´ë¾ð¾î¸ðµ¨(LLM) ÀÀ´äÀÇ ½Å·Úµµ¸¦ ³ôÀ̱â À§ÇÑ ¹æ¹ý·ÐÀÎ RAG¸¦ È¿°úÀûÀ¸·Î ±¸ÇöÇϱâ À§ÇØ ÇÊ¿äÇÑ ±¸Á¶ ¹× µ¥ÀÌÅÍ ¹æ½ÄÀ» ¼Ò°³ÇÏ°í À̸¦ ±¸ÇöÇÑ µ¥¸ð¸¦ ½Ã¿¬ÇÑ´Ù.
RAG´Â LLMÀÌ °Ë»ö °á°ú¸¦ ¹ÙÅÁÀ¸·Î »ç¿ëÀÚÀÇ Áú¹®¿¡ ´äº¯Çϵµ·Ï À¯µµÇØ ÇÒ·ç½Ã³×À̼Ç(hallucination, AI°¡ °ÅÁþ Á¤º¸¸¦ »ç½ÇÀÎ ¾ç »ý¼º·Àü´ÞÇϴ ȯ°¢ Çö»ó)À» ÁÙÀ̱â À§ÇÑ ±â¼úÀÌ´Ù. ±èµµÀ± RAG¸ðµ¨¸µTFÀåÀº ÃÖ¼ÒÇÑÀÇ µ¿ÁúÀûÀÎ Àǹ̷Π¹À» ¼ö ÀÖ´Â ÃÖ´ë ´ÜÀ§·Î Á¤ÀÇÇÑ Ã»Å©(Chunk)·Î ÂÉ°µ ÈÄ °Ë»öÀ» ¼öÇàÇÏ´Â ¹æ¹ýÀ» Á¦¾ÈÇÑ´Ù. ÀÌ¾î °ø°øµ¥ÀÌÅÍ Áß ¹ýÁ¦Ã³ÀÇ Ã£±â ½¬¿î »ýÈ° ¹ý·É µ¥ÀÌÅÍ¿Í ½ÄÇ°ÀǾàÇ°¾ÈÀüóÀÇ °Ç°±â´É½ÄÇ° Ç°¸ñÁ¦Á¶½Å°í(¿øÀç·á) ¹× ÀǾàÇ°°³¿äÁ¤º¸(e¾àÀº¿ä)¸¦ È°¿ëÇØ °³¹ßÇÑ AI ¼Ä¡ º£Å¸ ¼ºñ½º¸¦ ½Ã¿¬ÇÑ´Ù.
Çà»ç µÑ° ³¯¿¡´Â ±¹³»¿¡¼ 2¸í »ÓÀÎ ¸®´ª½º Ä¿³Î ³×Æ®¿öÅ· ½ºÅà ÀÚµ¿ ¸ÖƼij½ºÆ® Åͳθµ(AMT) ¸ÞÀÎÅ×À̳ʷΠȰµ¿ÇÏ°í ÀÖ´Â À¯ÅÂÈñ ¸Å´ÏÀú°¡ ³×Æ®¿öÅ© ÀÎÅÍÆäÀ̽º Ä«µå(Network Interface Card, ÀÌÇÏ NIC)¿Í GPU °£ Á¦·ÎÄ«ÇÇ(zero-copy)¸¦ ÁÖÁ¦·Î ¹ßÇ¥¸¦ ÁøÇàÇÑ´Ù.
ÃÖ±Ù AI ¿öÅ©·Îµå°¡ ±âÇϱ޼öÀûÀ¸·Î Áõ°¡ÇÏ¸é¼ GPU ¶Ç´Â NPU¿¡¼ º¹ÀâÇÑ º´·Ä ¿¬»êÀ» ´õ¿í ºü¸£°í È¿À²ÀûÀ¸·Î ¼öÇàÇØ¾ß ÇÏ´Â Çʿ伺ÀÌ ´ëµÎµÇ°í ÀÖ´Ù. À¯ÅÂÈñ ¸Å´ÏÀú´Â NIC¿Í GPU ¶Ç´Â NPU »çÀÌ¿¡ µ¥ÀÌÅ͸¦ Àü¼ÛÇÒ ¶§ ¹ß»ýÇÏ´Â º¹»ç ÀÛ¾÷À» ÃÖ¼ÒÈÇÑ µ¥ÀÌÅÍ Àü¼Û ¹æ½ÄÀÎ Á¦·ÎÄ«ÇÇ ±â¹ý°ú ÃÖ±Ù ¸®´ª½º Ä¿³Î Ä¿¹Â´ÏƼ¿¡¼ °ø°³µÈ ÃֽŠ±â´ÉÀÎ µð¹ÙÀ̽º ¸Þ¸ð¸® TCP(Device Memory TCP)¿¡ ´ëÇØ ¼Ò°³ÇÑ´Ù.