기사 메일전송
네이버, UN에서 AI 안전 정책 사례 공유… “내재화한 기술 위에서 실천적 정책 수립” - SAPI, URG, 주제네바 대한민국 대표부 공동 개최 행사에서 네이버 AI 윤리 자문 프로세스 등 소개

윤승원 기자

  • 기사등록 2024-12-06 10:47:07
기사수정

네이버(주)(대표이사 최수연)가 5일 스위스의 UN 제네바 사무소에서 개최된 ‘신기술에 대한 인권 기반의 접근: 컨셉에서 구체적 적용으로(Towards a human rights-based approach to new and emerging technologies: From concept to implementation)’ 행사에 참석해 안전한 AI 생태계 구축을 위한 네이버의 노력을 소개했다.

 

네이버 정책/RM 아젠다 박우철 변호사(오른쪽에서 두 번째)가 네이버 AI 안전 정책 사례를 발표하고 있다.

2022년부터 ‘신기술에 대한 인권 기반의 접근’을 주제로 단계별 심층 연구를 수행하며 매년 보고서를 발간하고 있는 서울대 인공지능 정책 이니셔티브(SAPI) 및 Universal Rights Group(URG)이 주제네바 대한민국 대표부와 공동으로 주최한 올해 행사에서 SAPI 연구진은 ‘인권 중심의 규범을 업무 현장에 적용하는 현실적인 지침’을 다룬 올해 보고서를 발표하고, 주제네바 대한민국 대표부 윤성덕 대사, 서울대 임용 교수와 스테판 손넨버그 교수, 그리고 UN 인권최고대표사무소 관계자 등이 AI를 비롯한 새로운 디지털 기술을 인권을 바탕으로 발전시키기 위한 다양한 방안을 논의했다.

 

이 자리에서 네이버는 안전한 AI를 위한 추상적 원칙을 산업 실무에 적용해온 사례들을 공유하며 논의에 구체성을 더했다. 발표를 맡은 네이버 정책/RM 아젠다 박우철 변호사는 2022년부터 운영중인 네이버 AI 윤리 자문 프로세스 ‘CHEC(Consultation on Human-centered AI’s Ethical Considerations)’를 소개했다. CHEC는 ‘네이버 AI 윤리 준칙’을 실제 서비스 출시 과정에 적용하기 위해 설계한 정책으로, 일방적 점검이 아닌 기획 및 개발 단계에서부터 사회적 관점을 함께 고려하는 상호작용 과정이라는 특징이 있다.

 

박우철 변호사는 “현장의 상황을 알지 못하면 AI 윤리 원칙은 진부한 이야기가 될 수 있다.”며 “네이버는 AI 윤리 원칙을 현장에서 활용할 수 있도록 만들기 위해 SAPI와 같은 학계 전문가와 협업하는 등 많은 노력을 기울였고, CHEC 프로세스를 통해서는 서비스 담당자의 눈높이에 맞춰 현실적인 협업을 진행하기 위해 현장의 서비스 기획 및 개발 과정을 이해하고자 노력했다.”고 설명했다.

 

네이버 AI 윤리 준칙을 구체화하기 위한 다른 정책들에 대한 소개도 이어졌다. 2023년에 공개한 ‘사람을 위한 클로바X 활용 가이드’는 빠르게 발전하는 생성형 AI 기술에 네이버 AI 윤리 준칙이 어떻게 적용될 수 있을지에 대해 고민한 결과물이다. 나아가 올해에는 AI 시스템을 개발하고 배포하는 과정에서 AI의 잠재적 위험을 더욱 체계적으로 인식·평가·관리하기 위해 네이버 ASF(AI Safety Framework)도 새롭게 구축했다.

 

SAPI 디렉터를 맡고 있는 임용 서울대학교 교수는 “이번 행사를 통해, 신기술과 관련된 인권 기반 접근을 업무에 도입하기 위한 보다 실천적인 방안들이 공유되어 의미 있게 생각한다.”며 “향후 AI 정책 입안자 및 기업들과 협업을 강화하며 AI에 대한 인권 기반의 접근이 확산될 수 있도록 노력할 것”이라고 밝혔다.

 

한편, 네이버는 다양한 글로벌 커뮤니티와 협업하며 AI 안전성 분야 리더십을 갖춰나가고 있다. 올해 UN의 AI 안전성 보고서 작성에 기술 자문을 제공했으며, 다수 빅테크들이 참여하는 개방형 컨소시엄 ‘MLCommons’에서 AI 안전 벤치마크 구축 작업에 기여했다. 또한 지난 7월에는 AI 워터마크 기술 표준을 구축한 ‘C2PA(Coalition for Content Provenance and Authenticity)’에 국내 최초로 가입하기도 했다.

 

하정우 네이버 퓨처 AI 센터장은 “네이버는 AI 기술의 빠른 변화 속에서 주요 AI 기술을 내재화하면서, 서비스 기획·개발 현장과의 긴밀한 소통을 바탕으로 구체적이고 현실적인 안전 정책을 수립함으로써 AI 안전성 분야에서도 글로벌 리더 그룹으로 인정받고 있다.”며 “앞으로도 우수한 AI 기술력을 확보하는 한편, 안전하고 지속 가능한 글로벌 AI 생태계를 만드는 데에도 앞장설 것”이라고 말했다.

 

0
기사수정

다른 곳에 퍼가실 때는 아래 고유 링크 주소를 출처로 사용해주세요.

https://56.dadamedia.net/news/view.php?idx=48699
  • 기사등록 2024-12-06 10:47:07
많이 본 기사더보기
  1. 뉴진스 하니도 AI로 돌려보면 노동자 노동분쟁 사건은 구체적인 개별적 사건마다 판단이 엇갈리곤 합니다. 똑같은 학원 강사가 이 학원에서 일할 때는 근로자성이 인정됐다가, 저 학원으로 옮기면 인정이 안 될 수도 있습니다. 심지어 동일한 학원에서 근무하는 강사들임에도 중등부는 근로자성이 인정되고, 고등부는 인정되지 않는 사례마저 있습니다. 인공지능은 이와 같은 ...
  2. 이진화④, “노사관계만 보면 한국은 여전히 전쟁터” 예전에 민주노총에 소속된 활동가 한 명이 직원이 8명인 공업소에서 노조를 만든 적이 있습니다. 그래서 어떠한 결말이 빚어졌느냐? 회사는 폐업 직전의 위기로까지 치달았고, 사장님은 아직도 정신병원에서 주기적으로 치료를 받고 있습니다. 추상적인 거대 담론만 외치는 사람들이 현장을 완전히 망가뜨린 구체적 사례입니다
  3. 이진화③, “어려울수록 사람에게 의지해야 한다” 법의 잣대를 엄격히 적용한다면 AI 업체 경영자들은 변호사법이나 노무사법 위반으로 감옥에 가야 맞습니다. 왜냐면 자격증도 없으면서 다른 사람들로부터 돈을 받고 법률 서비스를 제공해왔기 때문입니다. 현실에서는 AI 업체에 그와 같은 정당한 추궁을 하지를 못합니다. 따라서 인공지능에 의존했다가 낭패를 당한 이용자 스스로가 그 후...
  4. 이진화②, “노동 사건의 승패는 프레임 짜기에서 갈린다” 다른 분야는 AI를 활용한 타협과 조정이 가능할 수도 있습니다. 그러나 노동 사건은 예외입니다. 노동 사건은 사용자와 근로자 간에 다툼이 발생한 상황을 가리킵니다. 만약에 근로자가 사용자를 고발하려고 AI에게 뭔가를 열심히 묻고 있다면 이미 갈등의 골이 깊게 패인 상황입니다. 화해의 가능성이 잔존해 있었다면 인공지능을 켜고 자판...
  5. 2026년 11월 1주 전국 주간 아파트 매매가격 0.07%·전세가격 0.10% 상승 한국부동산원은 2026년 11월 1주(11월 2일 기준) 전국 주간 아파트 가격 동향을 조사한 결과, 매매가격지수는 0.07% 상승했고 전세가격지수는 0.10% 상승했다고 발표했다.이 날 조사 결과에 따르면, 전국 주간 아파트 매매가격지수는 지난주 대비 상승세를 기록했다. 수도권(0.13%)과 서울(0.07%)은 상승했으며, 지방(0.00%)은 보합을 나타냈다.서울의 매...
포커스 뉴스더보기
책-퇴진하라
책-보수의종말
모바일 버전 바로가기