기업용 인공지능 전환 시장에서 운영 효율이 수익성과 직결되면서 통신사들이 토큰 비용 최적화 경쟁에 속도를 내고 있다. LG유플러스는 AI 에이전트 성능을 유지하면서도 토큰 사용 비용을 최대 90% 낮출 수 있는 기술을 앞세워 내년부터 기업 고객 대상 사업 확대에 나선다.
하이라이트
- LG유플러스는 AI 토큰 최적화 기술을 외부 기업에 제공하여 2025년부터 새로운 B2B 수익화 모델을 확대할 계획이다.
- 모델 라우팅 도입으로 일반 질의 처리 비용 25% 이상, 코딩 에이전트 비용 30% 이상 절감 효과를 내부 테스트에서 확인했다.
- Nvidia·AMD GPU와 퓨리오사AI NPU 분산 활용으로 연산 비용을 줄이고, 카카오 등 파트너와의 협력을 통해 AI 사업 경쟁력을 강화한다.
토큰 최적화 기술과 내년 사업 계획
서울경제신문 보도에 따르면, LG유플러스는 12일 서울 서대문구에서 기자간담회를 열고 AI 모델 운영과 토큰 최적화 성과, 기업 대상 사업 계획을 공개했다. 회사는 실증한 AI 모델 운영·최적화 기술을 외부 기업에 제공해 새로운 수익화 모델을 구축한다는 방침이다.이상엽 LG유플러스 최고기술책임자(CTO)는 회사가 이론적 효율화 수준을 넘어 실제 서비스에서 토큰 최적화 기술 검증을 마쳤다고 밝혔다. 그는 내년부터 기업 고객이 합리적인 비용으로 높은 AI 성과를 낼 수 있도록 지원하겠다고 말했다.
토큰은 AI가 질문을 읽고 답변을 생성할 때 처리하는 기본 데이터 단위이자 이용료 산정 기준이다. LG유플러스는 토큰당 단가 인하보다 고객이 AI로 하나의 업무를 마치는 데 드는 총비용을 낮추는 데 초점을 맞추고 있다.
모델 라우팅과 인프라 분산으로 비용 절감
회사는 축적한 데이터를 바탕으로 고객 이용 패턴에 맞춰 적합한 AI 모델을 선택하고 배분하는 기술을 강점으로 제시했다. 내부 테스트에서는 모델 라우팅을 통해 일반 질의 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감하는 효과를 확인했다고 설명했다.대표 사례로는 AI 통화 애플리케이션 익시오가 제시됐다. LG유플러스는 자체 AI 모델과 LG AI연구원의 엑사원, 구글 Gemini의 활용 비중을 조정해 서비스 품질을 높이면서 비용도 낮췄다고 밝혔다.
또한 회사는 특정 반도체에 의존하지 않는 구조를 통해 연산 부담도 줄이고 있다. 권기덕 LG유플러스 AX엔지니어링랩장은 Nvidia와 AMD의 GPU, 퓨리오사AI의 NPU를 연산 특성에 맞게 분산 투입하는 오케스트레이션 역량으로 고객사의 AX 비용을 낮출 수 있다고 설명했다.
LG유플러스는 카카오와 협력 중인 모두의 AI 서비스를 상용화하고, 이 과정에서 확보한 운영 데이터와 기술력을 기업 사업에 활용할 계획이다. 회사는 AI 에이전트 확산으로 사용량이 늘수록 불필요한 검색과 분석을 줄이는 운영 최적화 역량이 기업 AI 사업의 핵심 경쟁력이 될 것으로 보고 있다.
최근 우리는 AX 수요 확대로 국내 관련 상장사들의 실적이 성장세를 보인다는 AX 실적 성장세를 다뤘습니다.
- Forex
- Crypto