투데이e코노믹 = 유서진 기자 | SK텔레콤이 자체 개발 거대언어모델(LLM) ‘A.X K1’의 안전성과 신뢰성 검증에 나선다. 기술 경쟁을 넘어 ‘안전한 AI’ 역량을 글로벌 무대에서 점검하겠다는 전략이다.

SK텔레콤은 MWC26 기간 중 열리는 ‘글로벌 AI 레드팀 챌린지’에 참가해 A.X K1 모델을 대상으로 보안·윤리·오용 가능성 점검을 받는다고 25일 밝혔다.

100명 평가단 투입… 차별·개인정보 침해 등 집중 점검

글로벌 AI 레드팀 챌린지는 국내외 통신·AI 기업이 개발한 LLM을 대상으로 약 100명의 전문가 평가단이 참여해 모델의 취약점을 점검하는 방식으로 진행된다.

평가 항목은 ▲차별적·편향적 응답 생성 ▲개인정보 침해 가능성 ▲허위 정보 생성 ▲프롬프트 인젝션 공격 대응 ▲보안 취약성 등이다. 이른바 ‘레드팀(Red Team)’은 공격자 관점에서 모델의 약점을 찾아내는 역할을 수행한다.

최근 글로벌 AI 규제가 강화되는 흐름 속에서, 레드팀 테스트는 상용 AI 서비스 출시 전 필수 검증 절차로 자리 잡고 있다.

‘A.X K1’, 설계부터 학습까지 독자 기술

A.X K1은 모델 아키텍처 설계부터 데이터 학습, 튜닝까지 전 과정을 SK텔레콤이 독자 기술로 개발한 LLM이다. 최근 정부 주도의 ‘독자 AI 파운데이션 모델’ 1단계 평가 대상에 선정되며 기술력을 인정받았다.

SK텔레콤은 통신 데이터, 고객 서비스 응대, 네트워크 운영 경험 등을 기반으로 산업 특화형 AI 모델 고도화를 추진하고 있다. 향후 기업용 AI 에이전트, 고객 상담 자동화, 네트워크 최적화 등 다양한 영역에 적용할 계획이다.

“기술 경쟁 넘어 신뢰 경쟁”

김태윤 SK텔레콤 파운데이션 모델 담당은 “AI가 일상과 산업 전반에 확산되면서 기술 경쟁력뿐 아니라 안전성과 신뢰성 확보가 핵심 과제가 됐다”며 “이번 챌린지 결과를 모델 개선과 서비스 품질 향상에 적극 반영하겠다”고 밝혔다.

SK텔레콤은 레드팀 평가에서 도출된 취약점 분석 결과를 기반으로 모델의 가드레일(안전장치) 강화, 데이터 필터링 개선, 응답 통제 정책 고도화 등을 추진할 방침이다.

통신사 넘어 ‘AI 플랫폼 기업’ 전환 가속

업계에서는 이번 참여를 SK텔레콤의 ‘AI 플랫폼 기업’ 전환 전략의 일환으로 보고 있다. 단순 LLM 개발을 넘어, 글로벌 수준의 안전성 검증 체계를 갖추며 기업·공공 시장 진출을 준비하고 있다는 평가다.

특히 유럽연합(EU)의 AI법(AI Act) 등 규제 체계가 강화되는 상황에서, 사전 검증을 통한 신뢰 확보는 해외 사업 확장에 중요한 요소로 작용할 전망이다.

A.X K1이 글로벌 레드팀 테스트를 통과하며 경쟁력을 입증할 수 있을지, 국내 통신사가 개발한 독자 LLM의 성과에 관심이 쏠리고 있다.