[더테크=조명의 기자] 올거나이즈가 금융에 특화된 AI 언어 모델인 '알리 파이낸스 LLM'을 19일 공개했다.

알리 파이낸스 LLM은 오픈소스 LLM중 메타의 ‘라마2’를 기반으로 경량화한 금융 특화 sLLM(소형언어모델)이다. sLLM은 인간 두뇌의 시냅스에 해당하는 매개변수 규모가 LLM보다 작지만, 훈련을 위한 데이터, 시간, 비용 등이 상대적으로 적게 들어 특정 용도의 AI 서비스를 개발하는 데 적합하다.

알리 파이낸스 LLM은 매개변수가 130억개인 13B와 700억개인 70B의 두 모델이 함께 출시돼 프로젝트 비용과 난이도에 따라 모델 크기를 선택할 수 있다.

특히 금융 도메인에 특화된 데이터로 학습돼 금융 용어를 이해한다. 예를 들어 ‘LTV’라는 단어를 챗GPT에 물으면 고객의 생애기간 동안 기여하는 평균적인 가치를 나타내는 마케팅 지표인 ‘Lifetime Value’의 약어라고 대답한다. 하지만 알리 파이낸스 LLM은 금융 약관 등에 자주 나오는 ‘Loan to Value(담보 인정 비율)’의 약어로 대답한다.

알리 파이낸스 LLM은 올거나이즈의 올인원 LLM 플랫폼 ‘알리’에서 인지검색 및 요약에 바로 사용 가능하다. 금융 용어를 이해하는 모델이 올거나이즈의 검색증강생성(Retrieval Augmented Generation, RAG) 기술과 결합해 답변의 적합도를 높일 수 있다고 회사는 설명했다. 원하는 문서를 업로드한 후, 특정 부분을 검색해서 찾아주거나 요약해 달라고 프롬프트를 입력하면 된다. 

올거나이즈에 따르면 알리 파이낸스 LLM을 사용하면 최대 2주 안에 기업 전용 sLLM을 구축하고 비용 최적화까지 가능하며, 회사 데이터 반출에 대한 보안 우려 없이 기업 전용 온프레미스 LLM 앱 마켓을 구축할 수 있다.

이창수 올거나이즈 대표는 "올거나이즈는 2017년부터 KB증권, 현대카드, 일본 SMBC 금융그룹 등 거대 금융 고객사들과 함께 금융 분야에서의 지식관리 노하우를 쌓아왔으며, 이에 금융 특화 sLLM 모델을 가장 먼저 출시했다“며 ”앞으로 보험, 제조업 등의 분야로 넓혀갈 것"이라고 밝혔다.