[더테크=전수연 기자] 카카오가 AI기술을 활용한 혐오표현 감소 성과와 앞으로의 계획 등을 UN주관회의에서 소개했다.

카카오는 미국 뉴욕 UN본부에서 열린 ‘UN 더테러사무국-테크 기업 협의 회의’에서 디지털 안전을 위한 정책과 사례를 발표했다고 10일 밝혔다. 본 회의는 테러 목적의 ICT 악용을 예방, 대응하는 비구속적 지침서(Non-binding guiding principles)를 마련하고자 UN 안전보장이사회 산하 대테러사무국에서 주관했다.

카카오 관계자는 <더테크> 와의 통화에서 "UN이 카카오의 AI 알고리즘, 세이프봇 등의 디지털 안전을 위한 노력을 인정해 초청했다"고 전했다.

본 회의에서는 테크 산업 내 디지털 안전을 위한 기업들의 모범 사례 공유, 지침서 마련과 관련된 의견 수립과 발전 방향 등이 다뤄졌다. 카카오는 온라인으로 참여해 △유해 콘텐츠 유통을 막는 디지털 안전 정책 △AI기술을 활용한 선제적 대응 사례 △혐오표현 대응을 위한 협력 모델을 소개했다.

카카오는 ‘세이프봇’의 사례도 공유했다. 세이프봇은 카카오 서비스에서 게시물 운영정책을 위반한 콘텐츠를 AI기술로 분석해 자동 필터링하는 기능이다. 해당 기술 도입 후 악성 댓글이 기존 대비 3분의 1 수준으로 낮아지며 실효적 성과를 내고 있다.

이와 관련 카카오 관계자는 “(세이프봇은)욕설이나 혐오적인 표현 데이터베이스가 있고, 댓글에 포함이 되면 자동으로 블라인드 처리가 된다”고 설명했다.

혐오표현 근절을 위한 협력 모델도 소개됐다. 카카오는 증오발언 대응 실천안으로 학계와 사회 전문가가 함께한 증오발언 ‘코딩북(Coding Book)’을 제작하고 있다. 코딩북은 수집한 데이터를 분석 가능한 형태로 변환 시 참고할 수 있는 정의·원칙·판단 기준을 등을 담은 지침서로 서비스 내 증오표현을 판별하는데 도움을 줄 수 있다.

UN 대테러사무국은 이번 회의와 협의 내용을 토대로 테러리스트의 ICT의 오용에 대한 비구속적 지침서를 안전보장이사회 대테러사무국의 승인을 거쳐 발간할 예정이다.