[더테크=조재호 기자] SK텔레콤(이하 SKT)이 자체 개발한 에이닷과 앤트로픽·코난 등과 협력한 LLM을 활용해 엔터프라이즈 AI 사업을 추진한다. 최근 마이크로소프트와 구글을 필두로 다양한 기업들이 LLM(Large Language Model, 거대 언어 모델) 기반의 사업을 전개하면서 치열한 경쟁이 예고된 상황이다.
SKT은 생성형 AI 시장 공략을 위한 ‘멀티 LLM 전략’을 23일 발표했다. 기업과 공공기관 등의 요구에 맞춰 △ 대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM △ 윤리적 답변 및 대용량 텍스트 입력에 강점 있는 앤트로픽(Anthropic)의 LLM △ 한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업 준비를 진행 중이라고 밝혔다.
(관련기사: 에이닷부터 클로드까지, SKT의 AI컴퍼니 체질개선 )
우선 SKT의 자체 LLM인 에이닷의 경우, 8월부터 엔터프라이즈(Enterprise)용 기본모델(Foundation Model)을 출시하고 고객사 대상 모델을 학습해 최적화 작업을 진행하고 있다. 기본모델은 문서 요약이나 생성, Q&A 등을 진행할 수 있는 기능을 지닌 AI 소프트웨어다. AI를 제대로 활용하려면 모델에 고객사의 데이터를 학습시켜 고객이 원하는 방향으로 조율(Tuning)하는 과정이 필요하다.
SKT가 지분투자를 진행하고 다양한 분야에서 협력을 확대하고 있는 코난 LLM도 활용할 계획이다. 지난 13일 지분투자를 발표한 엔트로픽의 LLM은 SKT의 주요 B2B 서비스에 해당 기능을 결합해 판매하는 방식을 우선 협의 중이다. 기능 통합 작업이 완료될 4분기부터 실제 서비스 제공을 진행한다.
이와 관련 SKT 관계자는 더테크에 “엔터프라이즈 사업에서 가장 중요한 것은 고객의 요구 사항을 파악하고 최적의 LLM 추천할 수 있는 이해도가 중요하다”며 “정부 부처와 공공기관, 금융기업을 비롯해 국내 대형 제조사를 중심으로 서비스를 확장해나갈 것”이라고 말했다.
(관련기사: SKT, 페르소나AI와 손잡고 AICC 사업 강화)
LLM을 포함한 AI 서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 GPU 서버 인프라가 확실히 뒷받침되어야 개발시간 단축과 함께 정교한 서비스 개발을 할 수 있다. SKT는 국내 최고 수준의 슈퍼컴 등 대규모 GPU 시스템을 갖추고 있어 고객 요구에 맞는 안정적인 사전 학습이 가능하다.
SKT는 전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자를 보유했다. 하드웨어 인프라에서 LLM 소프트웨어에 이르는 엔터프라이즈 AI 분야에서 풀 스택(Full Stack, 전체 기술) 서비스가 가능한 기업이다.
SKT가 설립한 AI반도체 전문기업인 ‘사피온’의 신제품인 X330 등의 신기술을 활용, 기존 GPU의 발열과 높은 가격 이슈를 해결하려는 것도 풀 스택 서비스의 일환이다.
아울러 최근 LLM 관련 시장은 각 산업 분야별로 고객이 필요로 하는 구체적인 서비스를 효율적인 비용으로 제공하는 방식으로 경쟁의 축이 이동하고 있다. SKT의 엔터프라이즈 LLM 서비스는 각각의 LLM이 지닌 특장점을 가장 잘 발휘할 수 있는 분야에 매칭하는 ‘산업별 특화 LLM 서비스’ 제공을 목표로 한다.
이를 위해 한국어 기반의 구축형 LLM 시장에서는 에이닷을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드 LLM의 경우 앤트로픽 LLM 등을 활용해 시장을 공략할 계획이다.
이를 위해 SKT는 기업 및 공공사업 담당 구성원을 대상으로 멀티 LLM의 주요 기능, 사용법 등에 대한 교육을 지난주부터 진행해오고 있다.
한편, LLM 서비스 수요가 나타나고 있는 분야는 정부 부처와 공기업, 금융기업 등이다. 아직 초기 단계지만 국내 대형 제조사 등을 중심으로 제조업 AI 수요도 감지된다.
SKT는 행정안전부와 과학기술정보통신부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비 중이며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진 중이다.
이외에도 SK그룹내 대형 제조 계열사 등과 LLM 기반 AI 기술의 제조 영역 적용을 위한 협의를 진행 중이다. SKT가 강점을 보여온 빅데이터 분석사업은 제조 공정에서도 생산성 향상에 크게 기여할 수 있을 것으로 기대된다.
