셀렉트스타, 국내 최초 AI 신뢰성 검증 솔루션 ‘다투모 이밸’ 도입

민간 AI 신뢰성 인증사업 ‘AI-MASTER’ 시험기관 지정

 

[더테크 이지영 기자] 셀렉트스타가 한국인공지능산업협회(AIIA)의 민간 AI 신뢰성 인증 제도 ‘AI-MASTER’에 시험기관으로 참여했다고 2일 밝혔다.

 

‘AI-MASTER’는 한국인공지능산업협회가 주관하고, 셀렉트스타와 슈어소프트테크가 시험기관으로 참여하는 실증 중심 민간 주도 AI 신뢰성 검인증 사업이다. 해당 인증은 유럽연합(EU)의 ‘Trustworthy AI’ 원칙 및 ISO/IEC 국제표준 9종을 기반으로, 총 63개 항목에 대해 정량적인 평가를 수행한다.

 

셀렉트스타는 본 사업에서 LLM(초거대언어모델) 영역의 시험기관으로 참여하며, 전체 인증 프레임워크의 공동 설계, 평가 항목 정의, 자동화 평가 도구 개발 등의 역할을 맡는다.

 

특히, 인간의 행동 주체성과 감독, 기술적 강건성과 안전, 투명성, 사회 및 환경 복지 등 4가지 Trustworthy AI 평가 항목과 그에 따른 8가지 세부항목을 정의하고, 루브릭(Rubric) 기반의 평가 체계를 설계했다.

 

‘AI-MASTER’ 인증 평가에는 셀렉트스타가 자체 개발한 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(Datumo Eval)’이 사용됐다. ‘다투모 이밸’을 활용해 모델의 응답 품질을 분석하고, 셀렉트스타가 구축한 4가지 Trustworthy AI 평가 항목을 기준으로 정량 점수를 산출하여 인증의 객관성을 높였다. ‘AI-MASTER’ 인증 평가의 전체 항목 중 약 60%는 ‘다투모 이밸’을 통해 자동 평가가 진행된다.

 

‘AI-MASTER’는 셀렉트스타를 포함한 시험기관의 기술 검증을 거친 뒤, 산학연 전문가들의 인증 심의를 통해 종합 평가되어 한국인공지능산업협회에서 인증서를 발급하는 구조로 운영될 예정이다. 향후 정부 R&D 과제, 공공조달 연계, 고영향 AI 지정 제도 등과의 연동이 예정되어 있으며, 글로벌 인증 상호인정 체계로의 확대도 검토되고 있다.

 

이번 인증의 1호는 생성형 AI 전문기업 포티투마루(42MARU)의 자사 LLM 모델 ‘LLM42’가 획득했다.

 

김세엽 셀렉트스타 대표는 “셀렉트스타가 ‘AI-MASTER’ 인증 시험기관으로 참여하게 되면서 자사가 보유하고 있는 신뢰성 평가 역량을 공공 인증 체계에 적용할 수 있었다”며 “앞으로도 ‘다투모 이밸’을 중심으로 AI 안전성과 AI 서비스 품질 향상에 기여할 것”이라고 밝혔다.

 



배너