투데이e코노믹 = 유서진 기자 | LG유플러스가 아마존웹서비스(AWS)와 협력해 생성형 인공지능(AI) 서비스의 운영 효율성과 안정성을 높이기 위한 자동화 플랫폼을 구축했다. 온프레미스와 클라우드를 결합한 하이브리드 아키텍처를 통해 AI 개발부터 서비스 운영까지 전 과정을 하나의 흐름으로 연결한 것이 핵심이다.
LG유플러스는 AWS가 주최한 ‘2026 모던 에이전틱 애플리케이션 데이’에서 이 같은 구축 사례를 공개했다고 10일 밝혔다. 이번 사례는 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화 전략을 중심으로 소개됐다.
기존 AI 개발 환경은 모델 학습, 평가, 배포, 운영이 각각 분리돼 있어 반복 작업과 비효율이 발생하는 구조였다. LG유플러스는 이를 하나의 통합 파이프라인으로 재구성해 데이터 수집부터 서비스 적용까지 전 과정을 일관된 환경에서 처리할 수 있도록 설계했다. 이른바 ‘MLOps 고도화’를 통해 개발-운영 간 단절을 해소한 셈이다.
인프라 측면에서는 AWS의 관리형 쿠버네티스 서비스인 아마존 EKS를 기반으로 하이브리드 클라우드 구조를 구축했다. 온프레미스 환경에서 운영되던 기존 AI 시스템을 클라우드와 연계함으로써 확장성과 유연성을 확보하고, 인프라 관리 부담을 줄여 서비스 품질 개선에 집중할 수 있는 환경을 마련했다.
특히 GPU 자원 운영 방식도 크게 개선됐다. 기존에는 서버 단위로 GPU를 고정 할당하는 방식이었지만, 이번 플랫폼에서는 수요 기반으로 자원을 동적으로 배분하는 구조를 도입했다. 이를 통해 유휴 자원을 최소화하고, 모델 학습 및 추론 성능을 효율적으로 끌어올릴 수 있게 됐다.
이번 플랫폼은 단순 인프라 개선을 넘어 ‘AI 서비스 운영 체계’ 자체를 재정의했다는 점에서 의미가 있다. 생성형 AI 서비스가 확산되면서 안정적인 운영과 품질 관리가 핵심 경쟁 요소로 떠오른 가운데, LG유플러스는 AI를 실제 서비스 환경에서 지속적으로 운영·개선할 수 있는 기준과 구조를 선제적으로 마련했다는 평가다.
통신업계에서는 이번 사례를 AI 기반 네트워크 운영(AIOps)과 고객 서비스 영역 확장으로 이어질 수 있는 기반으로 보고 있다. 향후 AI 컨택센터(AICC), 네트워크 자동화, 개인화 서비스 등 다양한 영역에서 적용 범위가 확대될 가능성이 크다는 분석이다.
LG유플러스 관계자는 “AI를 단순 기술이 아닌 서비스 관점에서 안정적으로 운영할 수 있는 구조를 만드는 데 집중했다”며 “플랫폼을 통해 인프라와 자원 관리 부담을 줄이고, AI 서비스를 더 빠르고 안정적으로 제공할 수 있는 기반을 확보했다”고 밝혔다.
업계에서는 통신사들이 AI 인프라를 자체 구축하는 단계를 넘어, 클라우드 기반 자동화 플랫폼으로 전환하는 흐름이 가속화되고 있다는 점에서 이번 사례가 향후 AI 운영 표준의 방향성을 보여준다는 평가가 나온다.
