투데이e코노믹 = 유서진 기자 | LG유플러스가 AI 모델 최적화 전문기업 옵트에이아이와 손잡고 AI 서비스 운영 효율을 높이는 기술 개발에 나선다. AI 모델의 연산 부담을 줄여 GPU와 전력 사용량을 낮추고, 같은 자원으로 더 많은 작업을 처리하는 것이 목표다.

LG유플러스는 옵트에이아이와 토큰 최적화 기술을 공동 개발한다고 2일 밝혔다. 토큰은 AI 언어모델이 입력 내용을 이해하고 답변을 생성할 때 사용하는 텍스트 처리 단위다. 토큰 처리 효율을 높이면 AI 서비스 운영에 필요한 연산 자원을 보다 효율적으로 활용할 수 있다.

양사는 각자의 전문성을 바탕으로 역할을 나눠 협력한다. LG유플러스는 AI 서비스 운영 경험을 토대로 기술 검증과 적용을 담당하고, 옵트에이아이는 모델의 연산량과 크기를 줄이는 경량화 기술을 연구·개발한다.

앞서 양사는 ‘엑사원(EXAONE)’ 기반 소형언어모델(sLM)에 경량화 기술을 적용해 스마트폰의 AI 전용 반도체인 신경망처리장치(NPU)에서 구동할 수 있도록 했다. 기존 CPU 구동 방식과 비슷한 성능을 유지하면서 전력 소모량은 78%, 모델 크기는 82% 줄였다는 설명이다.

이는 연산 자원과 배터리 용량에 제약이 있는 스마트폰에서도 AI 모델을 효율적으로 실행하기 위한 성과다. 모델 크기와 전력 소모를 줄이는 기술은 기기 내부에서 AI를 구동하는 온디바이스 AI의 활용도를 높이는 기반이 된다.

양사는 이러한 협력 성과를 바탕으로 공동 연구 범위를 서버 GPU 환경까지 확대한다. 스마트폰에서의 모델 경량화를 넘어, 서버에서 AI가 답변을 생성하는 과정의 연산 방식을 최적화하는 데 초점을 맞춘다.

특히 같은 GPU에서 처리할 수 있는 토큰량을 기존보다 최대 4배 늘리는 기술을 확보한 상태다. 동일한 연산 자원으로 처리할 수 있는 작업량을 확대해 AI 서비스의 운영 효율을 높이겠다는 구상이다.

다만 토큰 처리량 증가는 서비스 전체의 응답 속도 향상과는 구분된다. 실제 서비스에 적용했을 때의 효과는 모델과 운영 환경에 대한 검증을 통해 확인하게 된다.

양사는 지난 1일 AI 운영 효율화 기술의 연구 동향과 산업 적용 사례를 공유하는 세미나도 공동 개최했다. 참석자들은 관련 기술의 적용 방안을 논의하며 온디바이스와 서버 환경에서의 AI 효율화 가능성을 살폈다.

LG유플러스와 옵트에이아이는 기술 개발과 검증을 통해 GPU·전력 사용 부담을 줄이고 AI 서비스 처리 효율을 높이는 협력을 이어갈 계획이다.