[더테크=전수연 기자] 바야흐로 생성형 인공지능(AI)의 시대. 그리고 그 조류에서 이제는 쉽게 접하게 된 용어 중 하나가 바로 LLM(초거대언어모델)이다. 이번  대한민국 디지털 미래혁신대전도 예외는 아니었다. LLM을 부스에 내건 업체들을 많이 찾아볼 수 있었다. 

그런데 생소한 표현이 하나 눈에 띄었다. AI전문기업 포티투마루의 부스에서 접한 ‘RAG(Retrieval Augmented Generation)’다. RAG은 LLM에 미리 질문과 관련 자료를 교육 시켜 정확한 답을 도출하는 기술이다.

이에 포티투마루라는 회사에 대한 궁금증이 들었다. 부스에서 만난 이는 박주식 이사. 우선 회사의 핵심 기술에 대해 묻자 박 이사는 “현재 자연어 기반 인공지능 솔루션을 만든다. 2018년 스탠포드 기계 독해 경진대회에서 인공지능이 문서를 읽고 이해하는 기술로 공동 1위를 했다”며 “그 기술을 통해 소프트웨어를 상용화했다”고 답했다. 다름아닌 ‘앤써링(Answering) AI’다.

앤써링 AI는 기업이나 조직의 방대한 문서를 대상으로 검색 기능을 제공한다. 박 이사는 “네이버, 구글 검색 등은 질문을 하면 키워드에 따라 결과가 다양하게 나온다”며 “앤써링 AI는 그 많은 문서 중 가장 답에 가까운 하나의 결과를 찾아준다”고 설명했다.

박 이사는 “예를 들어 금융권에서 보험 보상률을 검색할 경우, 정확한 답변을 제공한다”며 “2018년부터 해당 소프트웨어를 개발했기 때문에 여러 솔루션을 쌓을 수 있었다”고 전했다.

기자가 앞서 언급한 RAG42는 타 생성형 AI에 비해 환각현상을 줄였다. RAG42를 활용해 앤써링 AI에 프롬프팅하면 활용이 가능하다. 박 이사는 “앤써링 AI 기술의 근간은 기계 독해다. 한국어 인증을 공식으로 받았기 때문에 이 부분에서 기술 차별화를 두고 있다”고 강조했다.

포티투마루는 앞으로 생성형 AI 기능과 산업을 하나의 포트폴리오로 가져가며 기존 기술에 탑재해 확장할 계획이다.