AI 모델 경량화 및 최적화 기술 기업 노타(대표 채명수)가 AI 에듀테크 기업 ‘유탑소프트(대표 김성범)’와 손잡고 '온디바이스(On-Device) AI 튜터' 개발에 나선다.
노타는 12월 18일 서울 삼성동에서 유탑소프트와 '온디바이스 AI 기반 교육 서비스 사업 협력'을 위한 양해각서(MOU) 체결식을 가졌다고 밝혔다.
이번 체결식은 유탑소프트가 보유한 교육 업체를 위한 AI 튜터 개발 역량과 노타의 독보적인 AI 경량화 기술을 결합, 교육 전용 디바이스(태블릿 등)에 최적화된 생성형 AI 기반 AI 튜터 서비스를 상용화하기 위해 마련됐다.
양사가 구상 중인 '온디바이스 AI 튜터'는 외부 서버(클라우드)를 거치지 않고 태블릿 기기 자체에서 AI 튜터가 구동되는 방식을 기본으로 하되, 추론의 결과가 많이 필요한 경우에 한하여 외부 서버와 연동하는 하이브리드 방식의 적용이 검토되고 있다.
기존 생성형 AI 기반 AI 서비스의 고질적인 문제였던 ▲막대한 서버 운영 비용 ▲네트워크 지연 속도 ▲데이터 보안 문제를 효율적으로 개선할 수 있어 교육업계에서는 반드시 필요한 AI튜터 모델이 될 것으로 보인다.
향후 협력이 구체화되면 유탑소프트는 우선적으로 영어스피킹 특화 AI 튜터 모델과 LLM기반 문제은행 특화 AI 튜터 모델의 기획과 개발을 주도할 계획이다.
이에 맞춰 노타는 자사의 핵심 기술인 AI 모델 최적화 플랫폼 ‘넷츠프레소(NetsPresso®)’를 활용해, 데이터기반 파인튜닝 및 해당 AI 튜터 모델을 태블릿 등의 하드웨어 성능에 맞춰 압축하고 최적화하는 과정에서 긴밀히 협력해 나갈 방침이다.
이를 통해 구현되는 AI 튜터 솔루션은 학생 사용자수 증가에 따라 기하급수적으로 늘어나는 AI 서비스 운용 비용을 획기적으로 절감할 수 있을 것으로 기대된다.
또한, 인터넷 연결이 원활하지 않은 환경에서도 학생들이 끊김 없이 AI 튜터의 질문·답변 서비스를 이용할 수 있어 학습 효율성을 극대화할 전망이다.
유탑소프트 김성범 대표는 "노타와의 협력은 에듀테크 시장의 화두인 '비용 효율화'와 '개인화 교육'을 동시에 실현하는 계기가 될 것"이라며,
"교육 업체가 고비용의 LLM 도입으로 발생되는 운영 비용의 부담을 하이브리드 지원 '온디바이스 AI 튜터'를 통해 합리적이고 안전한 솔루션을 교육업체에 제공하겠다"고 밝혔다.
노타의 채명수 대표는 "교육 업체를 위한 AI 서비스 모델 경량화는 하드웨어 제약이 많은 모바일 교육 환경에서 필수적인 기술"이라며,
"유탑소프트의 풍부한 교육 서비스 구축 경험이 노타의 온디바이스 AI 기술과 만나 실제 교육 현장에서 의미 있는 혁신 사례를 만들 수 있도록 적극 지원하겠다"고 전했다.
양사는 이번 체결식을 계기로 구체적인 사업 협력 방안 논의에 착수하며 향후 온디바이스 AI 튜터 모델 상용화를 위해 지속적으로 협력해 나갈 예정이다.
[영상] 비싼 메모리 시대에 램버스 실패로 알아보는, AI 시대 메모리 확보 전쟁의 끝은? [PC흥망사 17-2] 
