기사 메일전송
LG U+, 국제무대서 AI 신뢰성 검증 나선다

윤승원 기자

  • 기사등록 2026-02-19 09:51:29
기사수정

LG U+, 국제무대서 AI 신뢰성 검증 나선다

LG유플러스가 생성형 AI의 안전성과 신뢰성을 검증하기 위해 모바일월드콩그레스(MWC) 기간 중 진행되는 `글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)`에 참여한다.

 

`글로벌 AI 레드팀 챌린지`는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로, MWC26이 열리는 스페인 바르셀로나에서 개최된다.

 

해당 챌린지는 MWC와 공식 공동 개최되는 개발자·디지털 인재 행사 `Talent Arena 2026`의 핵심 프로그램 중 하나로, 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 검증이 이뤄진다.

 

LG유플러스는 이번 챌린지에 자체 개발한 통신 특화 AI 모델 `익시젠(ixi-GEN)`을 출품해, 실제 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응력을 점검한다.

 

챌린지에는 약 100명의 참가자가 `레드팀` 역할로 참여해 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로 진행된다.

 

이번 레드팀 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책·안전 장치를 우회할 수 있는지를 검증하는 것이 특징이다.

 

참가자들은 ▲안전장치 우회(Jailbreak) ▲편향·차별(Bias & Discrimination) ▲인권 침해(Human Rights Violations) ▲사이버 공격(Cyberattacks) ▲불법 콘텐츠(Illegal Content) ▲허위정보(Misinformation) ▲응답 비일관성(Inconsistency) 등 7개 카테고리에서 AI의 대응 수준을 평가한다.

 

특히 이번 챌린지는 AI 응답의 정확성 여부가 아닌 `해서는 안 되는 응답을 했는지` 여부를 성공 기준으로 삼는 평가 방식을 적용한다.

 

예를 들어 불법 행위나 인권 침해와 관련한 정보가 실제로 부정확하더라도, AI가 해당 정보를 제공했다면 취약점으로 인정된다.

 

이는 생성형 AI가 초래할 수 있는 간접적·잠재적 위험까지 점검하기 위한 취지다.

 

챌린지는 총 180분 동안 라이브 방식으로 진행되며, 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 내 최대한 많은 미션을 성공시키는 것이 목표다.

 

각 결과는 3명의 심사위원이 주관적으로 평가하며, 성공 미션 수와 성공률을 기준으로 순위가 결정된다.

 

LG유플러스는 이번 글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 챌린지를 통해 확인된 취약점을 바탕으로 AI 모델을 지속적으로 고도화할 계획이다.

 

또한 글로벌 통신사 및 AI 전문가들과의 교류를 통해 AI 보안과 책임 있는 활용을 위한 논의를 확대해 나갈 방침이다.

 

이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼, 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다"며 "글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다"고 말했다.

 

0
기사수정

다른 곳에 퍼가실 때는 아래 고유 링크 주소를 출처로 사용해주세요.

https://56.dadamedia.net/news/view.php?idx=58259
  • 기사등록 2026-02-19 09:51:29
많이 본 기사더보기
  1. 뉴진스 하니도 AI로 돌려보면 노동자 노동분쟁 사건은 구체적인 개별적 사건마다 판단이 엇갈리곤 합니다. 똑같은 학원 강사가 이 학원에서 일할 때는 근로자성이 인정됐다가, 저 학원으로 옮기면 인정이 안 될 수도 있습니다. 심지어 동일한 학원에서 근무하는 강사들임에도 중등부는 근로자성이 인정되고, 고등부는 인정되지 않는 사례마저 있습니다. 인공지능은 이와 같은 ...
  2. 이진화③, “어려울수록 사람에게 의지해야 한다” 법의 잣대를 엄격히 적용한다면 AI 업체 경영자들은 변호사법이나 노무사법 위반으로 감옥에 가야 맞습니다. 왜냐면 자격증도 없으면서 다른 사람들로부터 돈을 받고 법률 서비스를 제공해왔기 때문입니다. 현실에서는 AI 업체에 그와 같은 정당한 추궁을 하지를 못합니다. 따라서 인공지능에 의존했다가 낭패를 당한 이용자 스스로가 그 후...
  3. 이진화④, “노사관계만 보면 한국은 여전히 전쟁터” 예전에 민주노총에 소속된 활동가 한 명이 직원이 8명인 공업소에서 노조를 만든 적이 있습니다. 그래서 어떠한 결말이 빚어졌느냐? 회사는 폐업 직전의 위기로까지 치달았고, 사장님은 아직도 정신병원에서 주기적으로 치료를 받고 있습니다. 추상적인 거대 담론만 외치는 사람들이 현장을 완전히 망가뜨린 구체적 사례입니다
  4. 이진화②, “노동 사건의 승패는 프레임 짜기에서 갈린다” 다른 분야는 AI를 활용한 타협과 조정이 가능할 수도 있습니다. 그러나 노동 사건은 예외입니다. 노동 사건은 사용자와 근로자 간에 다툼이 발생한 상황을 가리킵니다. 만약에 근로자가 사용자를 고발하려고 AI에게 뭔가를 열심히 묻고 있다면 이미 갈등의 골이 깊게 패인 상황입니다. 화해의 가능성이 잔존해 있었다면 인공지능을 켜고 자판...
  5. 2026년 11월 1주 전국 주간 아파트 매매가격 0.07%·전세가격 0.10% 상승 한국부동산원은 2026년 11월 1주(11월 2일 기준) 전국 주간 아파트 가격 동향을 조사한 결과, 매매가격지수는 0.07% 상승했고 전세가격지수는 0.10% 상승했다고 발표했다.이 날 조사 결과에 따르면, 전국 주간 아파트 매매가격지수는 지난주 대비 상승세를 기록했다. 수도권(0.13%)과 서울(0.07%)은 상승했으며, 지방(0.00%)은 보합을 나타냈다.서울의 매...
포커스 뉴스더보기
책-퇴진하라
책-보수의종말
모바일 버전 바로가기