AI 개발부터 운영까지 전 과정 통합 플랫폼 공개
GPU 자원 효율화로 서비스 안정성·운영 경쟁력 강화
[소셜밸류=최연돈 기자] LG유플러스가 클라우드 기반 인프라 자동화를 통해 인공지능(AI) 서비스 운영 체계를 고도화한다.
LG유플러스는 AWS가 주최한 ‘2026 Modern Agentic Applications Day’ 행사에서 AI 플랫폼 구축 사례를 공개했다고 10일 밝혔다.
이번 사례는 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화를 중심으로, 기존 온프레미스 중심 환경을 클라우드와 연계한 하이브리드 구조로 전환한 것이 핵심이다. 이를 통해 AI 개발부터 서비스 운영까지 전 과정을 하나의 흐름으로 연결하는 플랫폼을 구축했다.
 |
| ▲허설 LG유플러스 MLOps개발팀 기술책임이 발표하고 있다./사진=LG유플러스 제공 |
LG유플러스에 따르면 기존에는 AI 모델의 학습, 평가, 배포, 운영이 분리돼 서비스 전환 과정에서 반복 작업이 발생했지만, 이번 플랫폼은 이를 통합 파이프라인으로 연결해 개발·운영 효율성을 높였다. 데이터 수집부터 학습, 평가, 배포, 운영까지 전 과정을 일관된 환경에서 처리할 수 있도록 설계했다.
특히 AI를 단발성 개발이 아닌 ‘모델 준비 상태(Model Ready)’로 상시 유지하는 구조를 도입한 점이 특징이다. 이를 통해 서비스 적용 속도를 높이고, 운영 과정에서의 안정성을 강화할 수 있다는 설명이다.
인프라 측면에서는 AWS의 관리형 쿠버네티스 서비스인 Amazon EKS를 기반으로 한 하이브리드 아키텍처를 적용했다. 자체 온프레미스 GPU 인프라를 클라우드 클러스터와 통합하고, 컨트롤 플레인을 AWS 완전관리형 서비스로 운영해 인프라 관리 부담을 줄였다.
GPU 자원 활용 방식도 개선했다. 기존 장비 단위 고정 할당 방식에서 벗어나 필요에 따라 자원을 유연하게 배분하는 구조를 도입해 GPU 유휴 시간을 최소화하고, 학습 및 서비스 처리 효율을 높였다.
LG유플러스는 이번 플랫폼을 통해 AI를 실제 서비스 환경에서 안정적으로 운영할 수 있는 기준과 구조를 마련했다고 설명했다. 인프라 관리 부담을 낮추는 동시에 서비스 품질과 운영 안정성을 지속적으로 개선할 수 있는 기반을 확보했다는 평가다.
권기덕 LG유플러스 AX엔지니어링랩장은 “데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI 기반 개발 라이프사이클 역량을 강화하고 있다”며 “AWS와의 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높여 나갈 것”이라고 말했다.
[저작권자ⓒ 사회가치 공유 언론-소셜밸류. 무단전재-재배포 금지]
