[더테크=전수연 기자] LG AI 연구원이 AI의 급부상과 함께 공존하는 윤리 문제에 대한 자사의 기술과 신념을 소개했다. 특히 윤리 기준, 국제 규범 등의 안전 장치 마련을 위해 보고서를 발간하며 윤리 문제 해결 의지를 보였다.

LG AI 연구원은 지난 5일(현지시간)부터 이틀간 슬로베니아에서 열리는 ‘유네스코 AI 윤리 글로벌 포럼(Global Forum on the Ethics of AI)’에 참가했다고 6일 밝혔다.

유네스코 AI 윤리 글로벌 포럼은 첫 국제 표준인 AI 윤리 권고의 이행 방안을 논의하기 위한 자리로 올해는 ‘변화하는 AI 거버넌스의 지형’을 주제로 진행됐다. 이번 포럼에는 194개 회원국의 과학기술 담당 장관들과 유럽의회 사무총장, 앨런 튜링 연구소 윤리국장, 세계경제포럼 AI국장 등이 참석했다.

포럼에서 김유철 LG AI 연구원 전략부문장은 연구, 개발, 활용, 폐기에 이르는 AI 시스템의 생애주기별 위험 관리 체계 구축 경험을 공유하고 글로벌 빅테크를 비롯해 유네스코 회원국, 국제기구 인사들과 AI 윤리, 거버넌스 분야에서 협력 관계 구축을 위한 논의를 진행했다.

앞서 지난해 11월 LG AI 연구원은 국내 기업으로는 처음으로 유네스코와 AI 윤리 실행, 확산을 위해 협력한 바 있다. 또 올해 상반기 중 유네스코와 ‘전문가를 위한 AI 윤리 교육 프로그램’ 개발을 추진하는 등 향후 국제 AI 윤리 활동을 함께한다.

LG AI 연구원은 이번 포럼에서 민간 부문의 AI 윤리 기구 ‘유네스코 비즈니스 카운실’에도 가입했다. 비즈니스 카운실은 공동의장사인 마이크로소프트와 텔레포니카, 세일즈포스 등 글로벌 기업을 중심으로 유네스코의 AI 윤리 권고 이행을 촉진하고 AI 윤리영향평가 도구 개발, 운영 우수 사례 확산 플랫폼 역할을 한다.

이와 관련 LG AI 연구원은 최근 LG AI 윤리원칙의 이행 성과를 담은 AI 윤리 책무성 보고서를 발간했다. 이번 보고서는 국내·글로벌 AI 윤리원칙, 규범과의 정합성을 위해 유네스코 회원국이 채택한 첫 국제표준 ‘AI 윤리 권고(2021)’와 정부가 발표한 AI 윤리 기준(2020), 디지털 권리장전(2023)의 내용을 반영해 작성됐다.

앞서 2022년 공개된 LG AI 윤리원칙에는 △인간존중 △공정성 △안전성 △책임성 △투명성 등 올바른 행동과 가치 판단의 기준이 되는 내용이 포함됐다. 

이 외에도 LG AI 연구원은 거버넌스 고도화에 힘을 쏟았다. AI 연구 허브인 LG AI 연구원 내에 기술, 법학, 정책 등 다양한 분야의 전문가들이 참여하는 AI 윤리위원회를 비롯해 실질 AI 윤리 실행을 담당하는 AI 윤리사무국, AI 알고리즘과 오류, 시스템의 취약점을 찾아내는 레드팀, 임직원의 자발적인 AI 윤리 실천 조직인 AI 윤리 연구·활동 그룹 등이 운영되고 있다.

또 LG AI 연구원을 중심으로 LG 주요 계열사는 AI 윤리 담당자들이 분기별로 모여 AI 윤리 이슈·현안을 공유하고 AI 세부 분야별 윤리 가이드라인을 개발해 전파하는 ‘AI 윤리 워킹그룹’도 운영하고 있다.

이와 함께 LG AI 연구원은 학습 데이터 내의 개인정보를 모두 익명 처리해 민감 정보가 학습에 활용되지 않게 하고 있으며 욕설, 혐오 표현 등을 자동으로 감지해 걸러내는 기술도 개발했다.

기술 영역에서는 환각현상을 개선하고 신뢰할 수 있는 답변을 제공하는 AI를 위해 근거에 기반한 답변을 하는 AI 기술을 개발했다. 또 윤리적인 답변을 제공하기 위해 단계별 검증 시스템을 설계하고 개인정보 등의 민감한 정보를 선별해 삭제할 수 있는 기술도 개발했다.

이 외에도 이미지·텍스트 양방향 생성이 가능한 멀티모달 모델은 저작권 문제가 없는 이미지 데이터를 학습해 활용하고 사회 편향을 측정하는 평가 지표로 모델의 편향성을 계속해서 완화하고 있다.