LG CNS, 기업용 AI 플랫폼 ‘DAP GenAI’ 출시

2023.10.12 10:10:42

AI 서비스와 프롬프트, LLMOps까지 통합한 종합 솔루션 제공
멀티 LLM 채택과 함께 환각 차단하고 보안 강화한 AI 플랫폼 강조

 

[더테크=조재호 기자] DX전문기업 LG CNS가 텍스트와 이미지, 코딩 분야를 아우른 기업용 생성형 AI 플랫폼을 공개했다. 엔터프라이즈 LLM 서비스인 만큼 기업의 내부 데이터만을 활용해 정보 왜곡현상을 차단하고 보안을 강화했다.

 

LG AI연구원의 엑사원(EXAONE)과 GPT, 클로드, 팜2 등 서비스 최적의 LLM(거대언어모델)을 제공하는 멀티엔진 전략을 채택했다는 점에서도 주목된다. 

 

LG CNS는 기업 고객을 위한 생성형 AI 플랫폼 ‘DAP GenAI’을 12일 출시했다. DAP GenAI는 △AI 서비스 △AI 프롬프트 △LLMOps 등 3대 모듈을 통해 기업의 AI 도입에 대한 해답을 제시한다. 고객사는 DAP GenAI을 기업이 보유한 인프라 환경에 맞춰 자체 서버나 클라우드 등에서 설치하고 사용할 수 있다.

 

박상균 LG CNS D&A(Data Analytics&Artificial Intelligence) 사업부장(전무)은 “LG CNS의 생성형 AI 기술 역량을 집약한 플랫폼 서비스를 개발했다”며 “앞으로도 고객이 생성형 AI와 같은 기술을 통해 비즈니스를 혁신할 수 있도록 앞장서겠다”고 밝혔다.

 

(관련기사: 국내 기업용 AI 시장, 유연한 ‘로컬 서비스’ 강조)

 

DAP GenAI는 기업의 문서나 데이터베이스 등 내부 정보자산만 활용하고 다양한 보안 필터를 적용해 그럴싸한 거짓 정보나 왜곡된 데이터를 생성하는 할루시네이션(Hallucination, 정보 왜곡현상)을 방지하면서 보안 문제까지 해결했다.

 

DAP GenAI의 3대 모듈 기능을 자세히 살펴보면 ‘AI 서비스’는 기업의 생성형 AI 활용 최대 이슈인 내부 정보유출 방지를 위한 필터 기능을 탑재했다. 고객사는 서비스 개발 시 개인정보를 비식별화 하는 등 LG CNS가 사전 등록한 보안 필터를 활용할 수 있다. 아울러 고객사의 내부 규정에 맞춰 필터를 직접 생성해 적용할 수 있다. 가령, 특정 기술 정보나 비밀에 해당하는 단어와 문장을 식별해 답변하지 않도록 하는 필터를 만드는 방식이다.

 

‘AI 프롬프트’는 생성형 AI를 활용에 가장 중요한 ‘프롬프트’를 만들 수 있는 모듈이다. 프롬프트 입력에 따라 AI의 출력 결과가 큰 차이를 보이기 때문이다. AI 프롬프트에는 AI가 정교한 답변을 생성하도록 명령어를 만드는 LG CNS의 전문가들이 미리 구현해둔 ‘프롬프트 엔지니어링’ 노하우가 탑재됐다.

 

‘LLMOps’는 고객사가 엑사원 등  다양한 오픈소스 LLM을 파인튜닝(Fine-tuning, 미세조정)해 비즈니스에 특화된 LLM을 제작할 수 있다. 민감 정보를 다루는 금융·공공 분야 등 ‘프라이빗 LLM’이 필요한 고객사를 위한 모듈이다. 고객사는 DAP GenAI에서 제공하는 LLM 외에도 허깅페이스 등에서 오픈소스로 제공되는 LLM을 선택해 보유한 데이터를 학습시켜 활용할 수 있다. 이와 같은 프라이빗 LLM은 온프레미스 방식으로 데이터를 외부로 전송하지 않고도 다양한 AI 서비스를 만들 수 있다.

 

아울러 LLM 학습시 파라미터(매게변수)의 크기를 별도로 설정해 LLM의 성능을 유연하게 조정할 수 있다. 이러한 학습 과정은 실시간 모니터링이 가능하며 진행 상황을 보면서 학습을 멈추고 데이터를 조정하는 등의 운영이 가능하다. LLMOps로 만들어진 모델은 성능 비교도 가능한데, 가령 A라는 모델과 B라는 모델을 만들어 동일한 질문을 입력하고 결과값을 확인해 최적의 결과물을 만드는 LLM 모델을 선택할 수 있다.

 

한편, LG CNS는 언어를 포함해 이미지, 코딩 등의 분야에서 생성형 AI 서비스 모델을 확보해 사업을 가속화하고 있다.

 

LG CNS는 최근 멀티모달(Multi Modal)기반의 이미지 생성형 AI인 ‘드래그(DRAG)’를 개발했다. 멀티모달은 텍스트를 비롯해 이미지와 음성 등 다양한 방식으로 AI서비스에 정보를 주고받을 수 있는 기술을 의미한다. 드래그를 활용하면 창작자들의 작업 시간을 줄이고 비전문가들도 자신이 원하는 이미지 창작물을 만들 수 있다.

 

지난 6월 LG CNS는 코드 생성형 AI인 ‘AI코딩(AI Coding)’을 공개하기도 했다. ‘AI코딩’은 시스템, 애플리케이션, 서비스 등을 구축할 때, 개발자의 코딩 업무를 지원하는 서비스다.

조재호 기자 jjh@the-tech.co.kr
Copyright @더테크 (TEC TECH) Corp. All rights reserved.




25건의 관련기사 더보기

  • 네이버포스트
  • X
  • Facebook