투데이e코노믹 = 유서진 기자 | SK텔레콤이 독자 인공지능 파운데이션 모델 ‘A.X K2’의 추론과 장문 처리 능력을 강화하고 제조·반도체·보안 등 산업 현장으로 활용 범위를 확대한다.

SK텔레콤은 A.X K2가 이전 모델보다 주요 벤치마크 평균 성능을 32.2%포인트 높였다고 4일 밝혔다. 복잡한 업무를 계획하고 외부 도구를 활용해 수행하는 인공지능 에이전트 역량을 강화해 국내 산업에 특화된 소버린 인공지능 생태계를 구축한다는 전략이다.

SK텔레콤은 이날 뉴스룸을 통해 A.X K2의 기술적 특징과 향후 고도화 방향을 소개한 김태윤 파운데이션 모델 담당의 인터뷰를 공개했다.

A.X K2에는 SK텔레콤이 자체 개발한 ‘희소 게이트 어텐션’ 구조가 적용됐다. 긴 대화나 대규모 문서 분석, 여러 단계에 걸친 외부 도구 호출이 반복되는 상황에서도 모델이 필요한 정보를 효율적으로 찾아 처리하도록 설계한 기술이다.

생성형 인공지능 서비스가 단순한 질의응답을 넘어 자료 검색과 분석, 계획 수립, 프로그램 실행 등을 수행하는 에이전트 형태로 진화하면서 긴 문맥을 안정적으로 유지하는 능력이 중요해지고 있다.

SK텔레콤은 희소 게이트 어텐션을 통해 연산 부담을 줄이면서도 장문의 문서와 대화 내용을 보다 빠르고 안정적으로 처리할 수 있도록 했다. 기업이 보유한 방대한 내부 문서나 업무 이력을 참조해 복합적인 과제를 수행하는 데 활용할 수 있다는 설명이다.

SK텔레콤은 대형 모델과 경량 전문 모델을 함께 활용하는 전략도 추진한다. 고난도 추론과 복잡한 의사결정은 대형 모델이 맡고 반복적이거나 특정 업무에 특화된 작업은 상대적으로 가벼운 모델이 처리하도록 구성하는 방식이다.

이를 통해 산업 현장에서 요구되는 성능을 확보하면서 인공지능 운영에 들어가는 비용과 전력 소비를 줄일 수 있을 것으로 기대하고 있다.

SK텔레콤은 텍스트를 처리하는 A.X K2와 함께 이미지와 문자를 동시에 이해하는 비전 언어모델 ‘A.X K2 VL 라이트-프리뷰’를 선보였다.

상담과 회의 등에서 생성되는 음성을 인식하고 분석하는 음성 언어모델 ‘A.X K2 ALM’과 음성 인식 모델 ‘A.X K2 라온-스피치’도 개발했다. 텍스트뿐 아니라 이미지와 음성까지 처리하는 복합 인공지능 체계를 구축해 산업별 활용 범위를 넓힌다는 구상이다.

제조업에서는 숙련공의 경험과 현장에 흩어진 작업 지침, 장비 설명서, 불량 사례 등을 인공지능이 활용할 수 있는 디지털 자산으로 전환하는 데 A.X K2를 적용할 계획이다.

숙련공이 오랜 경험을 통해 보유한 암묵지를 데이터화하면 신규 작업자의 교육을 지원하고 설비 이상이나 제품 불량이 발생했을 때 원인과 조치 방법을 신속하게 제시할 수 있다.

SK텔레콤 정예팀은 반도체와 자동차, 화학 분야의 한국어 제조 인공지능 성능을 평가하기 위한 자체 벤치마크도 개발하고 있다. 산업별 데이터 확보부터 모델 학습과 평가, 현장 검증까지 연결되는 체계를 구축해 범용 평가만으로 확인하기 어려운 제조 현장 성능을 측정할 계획이다.

KG스틸과 자동차 부품기업 코넥 등과는 제조 특화 인공지능 에이전트의 현장 실증을 추진하고 있다. 해당 에이전트는 생산 라인에서 발생한 과거 불량 사례와 공정 자료를 학습한 뒤 불량 원인을 분석하고 작업자에게 조치 방법을 안내하는 방식으로 개발되고 있다.

SK하이닉스의 사내 인공지능 도구 ‘거대언어모델 챗’에는 경량 모델을 연동해 반도체 관련 지식 검색과 정보 정리, 자연어로 프로그램을 개발하는 바이브 코딩 등을 지원하고 있다.

보안 분야에서는 외부 피싱 탐지 로봇과 음성 언어모델 기반의 실시간 보이스피싱 탐지 등 국민 안전과 연계된 서비스를 확대한다.

금융과 공공, 국방, 제조 분야는 민감한 데이터가 많아 해외 인공지능 서비스 이용에 제약이 생길 수 있다. SK텔레콤은 국내 제도와 언어·문화적 특성을 이해하고 데이터를 안전하게 처리할 수 있는 독자 모델이 이들 분야의 인공지능 전환을 촉진할 것으로 보고 있다.

SK텔레콤은 A.X K2 후속 모델을 조 단위 매개변수 규모로 확대하는 방안도 준비한다. 모델 규모를 키우는 동시에 에이전트형 강화학습과 사이버 보안 능력, 장문 처리 효율, 빠른 서비스 제공 기술을 함께 고도화할 계획이다.

서울대학교와 한국과학기술원, 크래프톤 등 컨소시엄 참여 기관과 차세대 인공지능 구조에 대한 공동 연구도 진행한다.

인공지능 반도체 기업 리벨리온과는 국산 신경망처리장치 기반 모델 구동 기술을 최적화하고 실제 상용 서비스에 적용하기 위한 실증을 확대한다. 모델과 데이터뿐 아니라 인공지능 반도체와 서비스까지 국내 기술로 연결하는 생태계를 구축한다는 목표다.

김태윤 SK텔레콤 파운데이션 모델 담당은 “역량을 내부에만 보유하지 않고 개방과 협력을 통해 국내 인공지능 생태계의 토대로 만들겠다”며 “A.X K2의 지향점은 긴 문맥을 이해하고 필요한 도구를 활용해 과업을 수행하는 ‘일하는 인공지능’”이라고 말했다.

이어 “국내 산업과 제도, 문화적 맥락을 이해하면서 민감한 데이터를 안전하게 다룰 수 있는 소버린 인공지능을 만들어 나가겠다”고 밝혔다.