네이버 AI 안정성 대응 체계 ‘네이버 ASF’

[더테크=조재호 기자] 네이버가 인공지능(AI) 안전성 실천 체계를 공개했다. 지난 윤리 준칙과 자문 프로세스보다 한층 더 나아간 내용이다. 회사는 향후 세계의 문화적 다양성을 반영한 안전성 체계로 글로벌 AI 발전에 이바지한다는 계획이다. 네이버가 17일 자체 기술 채널인 ‘채널 테크’를 통해 ‘네이버 ASF(AI Safety Framework)’를 발표했다. 네이버 ASF는 네이버가 AI 시스템을 개발하고 배포하는 과정의 모든 단계에서 잠재적 위험을 인식·평가·관리하기 위한 대응 체계다. 네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 △통제력 상실 △악용으로 정의하고 이에 대응할 방법을 설계했다. 먼저 통제력 상실 위험에 대해 ‘AI 위험 평가 스타일’을 통해 시스템의 위험을 주기적으로 평가하고 관리한다. 이는 현존 최고 AI 시스템을 ‘프런티어 AI’로 정의하고 해당 수준에 대해서 3개월마다 위험 평가를 시행한다. 시스템의 능력이 기존보다 6배 이상 급격히 상승한 때도 추가 평가를 진행한다는 내용이다. 악용 가능성은 ‘AI 위험 평가 매트릭스’를 적용한다. 이는 AI 시스템의 사용 목적과 안전 조치 필요성에 따라 다른 방식으로 위험을 관리하는 내

• 조재호 기자
• 2024-06-17 11:39