LG유플러스가 통신 특화 인공지능(AI) 모델 ‘익시젠’으로 생성형 AI 안전성 검증 무대인 ‘글로벌 AI 레드팀 챌린지’에 참여한다고 19일 밝혔다.

해당 행사는 다음 달 열리는 세계 최대 이동통신 전시회 ‘모바일월드콩그레스(MWC)’ 2026과 공동 개최되는 개발자·디지털 인재 행사 프로그램 중 하나다. 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 안전·편향·인권침해·사이버 공격 등 7개 분야 대응 수준을 검증한다.

LG유플러스 직원들이 레드팀 챌린지 참여를 응원하고 있다. LG유플러스 제공

LG유플러스는 지난해에 이어 올해도 익시젠을 레드팀 챌린지에 출품하기로 했다. 익시젠 안전성과 신뢰성을 검증하고, 챌린지 과정에서 확인된 취약점을 파악해 모델을 고도화할 계획이다.

이혜진 LG유플러스 기술전략담당은 “글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다”고 말했다.

이번 챌린지는 참가자 약 100명이 ‘레드팀’ 역할로 참여해 프롬프트(명령어) 설계만으로 AI 취약성을 찾는 방식으로 진행된다. 기술적 해킹이 아닌 대화·프롬프트 기반 공격으로 AI 정책과 안전장치를 우회할 수 있는지 검증하기 위해서다.

AI의 응답 정확성이 아닌 AI가 ‘해서는 안 되는 응답을 했는지’가 주요 평가 항목이다. 불법 행위나 인권침해 관련 정보가 부정확하더라도 AI가 해당 정보를 제공했다면 취약점으로 인정하는 식이다. 참가자들은 180분간 익시젠 등 무작위로 배정된 AI 모델을 대상으로 안전성 우회를 시도하게 된다.

이정한 기자 [e-mail]