네이버, UN에서 AI 안전 정책 사례 공유…“지속 가능한 글로벌 AI 생태계 구축”

네이버가 5일 스위스의 UN 제네바 사무소에서 개최된 행사에서 안전한 AI 생태계 구축을 위한 네이버의 노력을 소개했다고 밝혔다.

네이버 CI. 네이버 제공

‘신기술에 대한 인권 기반의 접근: 컨셉에서 구체적 적용으로’ 행사는 서울대 인공지능 정책 이니셔티브(SAPI)와 Universal Rights Group(URG)이 주제네바 대한민국 대표부와 공동으로 주최했다.

SAPI 연구진은 ‘인권 중심의 규범을 업무 현장에 적용하는 현실적인 지침’을 다룬 올해 보고서를 발표하고, 주제네바 대한민국 대표부 윤성덕 대사, 서울대 임용 교수와 스테판 손넨버그 교수, 그리고 UN 인권최고대표사무소 관계자 등이 AI를 비롯한 새로운 디지털 기술을 인권을 바탕으로 발전시키기 위한 다양한 방안을 논의했다.

이 자리에서 네이버는 안전한 AI를 위한 추상적 원칙을 산업 실무에 적용해온 사례들을 공유했다.

발표를 맡은 네이버 정책/RM 아젠다 박우철 변호사는 2022년부터 운영 중인 네이버 AI 윤리 자문 프로세스 ‘CHEC(Consultation on Human-centered AI’s Ethical Considerations)’를 소개했다.

CHEC는 ‘네이버 AI 윤리 준칙’을 실제 서비스 출시 과정에 적용하기 위해 설계한 정책으로, 일방적 점검이 아닌 기획 및 개발 단계에서부터 사회적 관점을 함께 고려하는 상호작용 과정이라는 특징이 있다.

박우철 변호사는 “현장의 상황을 알지 못하면 AI 윤리 원칙은 진부한 이야기가 될 수 있다”며 “네이버는 AI 윤리 원칙을 현장에서 활용할 수 있도록 만들기 위해 SAPI와 같은 학계 전문가와 협업하는 등 많은 노력을 기울였고, CHEC 프로세스를 통해서는 서비스 담당자의 눈높이에 맞춰 현실적인 협업을 진행하기 위해 현장의 서비스 기획 및 개발 과정을 이해하고자 노력했다”고 설명했다.

박우철 변호사(오른쪽에서 두 번째)가 네이버 AI 안전 정책 사례를 발표하고 있다. 네이버 제공

네이버 AI 윤리 준칙을 구체화하기 위한 다른 정책들에 대한 소개도 이어졌다.

2023년에 공개한 ‘사람을 위한 클로바X 활용 가이드’는 빠르게 발전하는 생성형 AI 기술에 네이버 AI 윤리 준칙이 어떻게 적용될 수 있을지에 대해 고민한 결과물이다.

나아가 올해에는 AI 시스템을 개발하고 배포하는 과정에서 AI의 잠재적 위험을 더욱 체계적으로 인식·평가·관리하기 위해 네이버 ASF(AI Safety Framework)도 새롭게 구축했다.

SAPI 디렉터를 맡고 있는 임용 서울대학교 교수는 “이번 행사를 통해 신기술과 관련된 인권 기반 접근을 업무에 도입하기 위한 보다 실천적인 방안들이 공유되어 의미 있게 생각한다”며 “향후 AI 정책 입안자 및 기업들과 협업을 강화하며 AI에 대한 인권 기반의 접근이 확산될 수 있도록 노력할 것”이라고 밝혔다.

한편, 네이버는 다양한 글로벌 커뮤니티와 협업하며 AI 안전성 분야 리더십을 갖춰나가고 있다.

올해 UN의 AI 안전성 보고서 작성에 기술 자문을 제공했으며, 다수 빅테크들이 참여하는 개방형 컨소시엄 ‘MLCommons’에서 AI 안전 벤치마크 구축 작업에 기여했다.

또 지난 7월에는 AI 워터마크 기술 표준을 구축한 ‘C2PA(Coalition for Content Provenance and Authenticity)’에 국내 최초로 가입하기도 했다.

하정우 네이버 퓨처 AI 센터장은 “네이버는 AI 기술의 빠른 변화 속에서 주요 AI 기술을 내재화하면서 서비스 기획·개발 현장과의 긴밀한 소통을 바탕으로 구체적이고 현실적인 안전 정책을 수립함으로써 AI 안전성 분야에서도 글로벌 리더 그룹으로 인정받고 있다”며 “앞으로도 우수한 AI 기술력을 확보하는 한편, 안전하고 지속 가능한 글로벌 AI 생태계를 만드는 데에도 앞장설 것”이라고 말했다.

국윤진 기자 [e-mail]