[더테크=조명의 기자] 업스테이지는 지난 13일 미국 워싱턴 국무부에서 개최되는 ‘한미 ICT 정책 포럼’에 한국의 대표 기업으로 참석, AI 윤리 및 신뢰성 관련 발표를 진행했다고 15일 밝혔다. 

한미 ICT 정책 포럼은 과학기술정보통신부와 미 국무부 간 ICT 분야 협력 증진을 위해 2013년부터 매 1~2년 주기로 개최되어 온 정부 간 협의체다. 이번 포럼은 지난 12~13일  양일간 민간기업과 정부가 함께 참여하는 민관 세션과 정부 세션으로 나뉘어 진행됐다.

업스테이지는 첫날인 12일 민관 세션 중 AI 윤리 및 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥기술 세션에 참석했다. 김성훈 업스테이지 대표는 ‘AI 윤리/신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력’을 주제로 자사가 운영하는 데이터 수집 및 공유 플랫폼인 ‘1T 클럽’을 대표적인 사례로 소개했다. 

김성훈 대표는 데이터를 모으는 과정에서 양질의 데이터를 모으기 위해 콘텐츠 제공자와 수익을 공유하고 이를 통해 AI가 만들어내는 결과물의 신뢰성과 윤리적 측면까지 강화할 수 있는 1T 클럽을 통해 다양한 분야의 전문가들과 협력할 수 있으며 이를 위해 정부의 협력이 필요하다고 밝혔다. 

또한 글로벌의 연구그룹과 기업 등 다양한 조직들이 LLM의 대중화에 기여하고 있지만 주로 모델 개발에만 집중하고 있는데 AI 기술 발전에 데이터의 역할은 절반 이상이라 할 만큼 중요하며, 데이터 수집 단계부터 집중하며 수익을 공유함으로써 데이터를 제공하는 콘텐츠 부문도 더 활성화될 것이라고 강조했다.
 
김 대표에 따르면 업스테이지는 좋은 데이터를 모으기 위해 ‘사람중심’, ‘신뢰성’, ‘공정성’, ‘안전성’, ‘보편성’의 5대 윤리원칙에 기반, 데이터를 정제하고 모델을 만든다. 이를 통해 AI 데이터의 신뢰성과 윤리적 측면에서도 선순환이 이뤄져 가장 중요한 진실되고 윤리적인 양질의 데이터를 모으는 데 앞장서고 있다.

업스테이지는 ‘1T 클럽’을 통해 한국의 AI 능력을 더욱 향상시키고 글로벌 AI 산업에서 한국이 선두 주자의 위치를 확립하기 위해 최선을 다하는 것은 물론, 특히 크롤링을 통한 AI 학습으로 인해 저작권 이슈 등 부작용이 발생하는 문제 해결하고 데이터 제공자와 모델 제작자 모두가 혜택을 볼 수 있도록 운영할 계획이다.

김성훈 업스테이지 대표는 “이번 한미 ICT 정책 포럼은 AI 윤리와 신뢰성에 대한 국제적인 공감대를 형성하고 협력을 강화하는 중요한 기회가 될 것이라고 기대한다”며 “업스테이지는 AI의 사회적 책임과 가치를 실현하기 위해 끊임없이 노력하고, 다양한 파트너들과 협력하고자 한다”고 말했다.