더테크 (THE TECH) - 대한민국 대표 블루오션 테크 미디어

[포토] '텔코 LLM'에 담긴 SKT의 기술

[더테크=전수연 기자] SK텔레콤(이하 SKT)이 통신사의 서비스, 상품, 멤버십 혜택, 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 학습시키는 LLM을 개발하고 있다. SKT는 서울 중구 SKT타워에서 자사 텔코 LLM 설명회를 30일 진행했다. 사진은 행사가 열린 무대 모습.

전수연 기자

2024-04-30 14:57

SKT가 개발한 '통신 전문 LLM' 오는 6월 출시된다

[더테크=전수연 기자] SK텔레콤(이하 SKT)이 통신사의 서비스, 상품, 멤버십 혜택, 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 학습시키는 LLM을 개발하고 있다. 이 LLM은 오는 6월 개발이 완료되며 통신사들이 AI컨택센터, 유통망, 네트워크 운용, 사내 업무 등에 활용할 수 있을 것으로 보인다. SKT는 서울 중구 SKT타워에서 자사 텔코 LLM 설명회를 30일 진행했다. 이날 설명회는 텔코 LLM의 의미와 개발 과정을 공유하는 시간으로 마련됐다. 우선 에릭 데이비스 SKT AI Tech Collaboration 담당은 텔코 LLM의 정의부터 언급했다. 텔코 LLM은 5G 요금제, T멤버십, 공시지원금 등 우리나라 통신 전문 용어와 AI 윤리가치 등 통신사의 내부 지침을 학습한 모델이다. 특히 GPT, 클로드와 같은 범용 LLM이 아닌 통신업에 특화된 LLM이라고 볼 수 있다. 텔코 LLM의 3가지 특징에 대해 데이비스 담당은 “개체(Entity) 인식은 특정 요금제의 혜택을 이해한다. 또 상품 선택은 제품 검색어(query)와 가장 일치하는 문서를 찾는다”며 “의도 감지는 문장에서 사용자 의도를 분류해 파악한다”

전수연 기자

2024-04-30 14:57

AI 코딩에 최적화된 LG CNS '자체 LLM' 개발

[더테크=전수연 기자] LG CNS가 지난해 6월 챗GPT 기반의 코드 생성형 AI 서비스 ‘AI 코딩’을 개발한 데 이어 자체 대규모언어모델(LLM)을 선보였다. LG CNS는 코드 생성형 AI에 최적화된 LLM을 공개했다고 31일 밝혔다. AI 코딩은 현재 다수의 사내 시스템 운영, 고객사 SI(System Integration)·SM(System Management) 프로젝트에 활용되고 있다. 또한 LG CNS는 AI 코딩을 금융·증권사 등 데이터의 외부 유출에 민감한 기업들도 활용할 수 있도록 LLM까지 자체 개발했다. 고객사들은 각각의 비즈니스 환경에 맞춰 LLM 또는 오픈AI의 GPT를 선택해 AI 코딩을 활용할 수 있다. LG CNS는 메타의 ‘코드라마(CodeLlama)’ 등 다양한 오픈소스 LLM을 활용해 코딩에 최적화된 LLM을 구현했다. 기업은 보유 중인 서버, 클라우드 등 인프라에 LLM을 설치하고 AI 코딩을 플러그인 방식(기존 시스템에 부가기능을 추가하는 방식)으로 연결하면 된다. 이는 기업이 가진 자체 인프라를 활용하기 때문에 소스코드, 개인정보 유출 가능성을 낮출 수 있다. 이와 함께 LG CNS는 이번에 공개한 LLM과 AI 코