Seoul Gazette - LG유플러스, AI 운영비 최대 90% 절감 기술로 내년 B2B 시장 진출

LG유플러스가 기업의 인공지능(AI) 운영 비용을 대폭 낮추는 사업에 본격적으로 나선다. LG유플러스는 AI 모델 선택부터 연산 처리, 반도체 활용까지 전 과정에서 비용을 최대 90% 이상 절감한 기술을 바탕으로 내년부터 기업 간 거래(B2B) 시장을 공략할 계획이다.

LG유플러스는 지난 12일 열린 ‘AI 토큰 최적화 스터디’에서 AI 운영 비용 절감 기술 개발 성과와 내년도 사업계획을 공개했다. 회사는 AI 모델을 효율적으로 선택하고 활용하는 방식으로 비용을 절감했다고 설명했다. 특히 질문 난이도에 따라 적합한 모델을 선택하는 ‘모델 라우팅’ 기술을 적용해 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 운영 비용을 30% 이상 낮췄다. 자체 AI 모델을 활용한 코딩 에이전트에서는 운영 비용을 무려 90% 이상 줄였다고 덧붙였다.

또한 LG유플러스는 AI 모델 크기를 줄이는 경량화 기술도 개발했다. ‘양자화’와 ‘지식 증류’ 기술을 활용해 기존 2.4~3기가바이트(GB) 수준이었던 온디바이스 AI 모델 용량을 약 800메가바이트(MB)로 축소했다. 양자화는 데이터를 압축하는 기술이고, 지식 증류는 대형 모델의 학습 결과를 작은 모델에 전달하는 방식이다. 이를 통해 성능을 유지하면서도 메모리와 연산 부담을 줄였다고 회사는 설명했다.

반도체를 효율적으로 이용해 인프라 비용을 낮추는 전략도 추진한다. 엔비디아와 AMD의 그래픽처리장치(GPU), 퓨리오사AI의 신경망처리장치(NPU)를 작업 특성에 따라 조합하는 ‘칩 믹스’ 방식이다. 질문 처리에는 엔비디아 GPU를, 답변 생성에는 AMD GPU를 활용하는 식으로 연산 처리 방식을 개선해 동일한 인프라에서 처리 효율을 약 4배 높였다고 한다.

LG유플러스는 내년부터 협력사 제휴와 자체 인프라 구축을 병행해 기업 고객 대상 AI 토큰 최적화 사업을 추진할 계획이다. AI 통화 에이전트 ‘익시오’와 AI 컨택센터(AICC) 등에서 축적한 기술을 기업 고객에게 제공한다는 구상이다.

이상엽 LG유플러스 최고기술책임자(CTO)는 “내년부터 기업 고객들이 가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다”고 강조했다.

E.Ma--SG