[더테크=조재호 기자] 아마존웹서비스(이하 AWS)가 AWS 리인벤트(re:Invent)에서 거대언어모델(LLM)과 기타 파운데이션 모델(FM)의 구축, 학습, 배포를 가속하는데 도움이 되는 아마존 세이지메이커(Amazon SageMaker)의 새로운 기능 5가지를 발표했다.
이번에 발표된 신규 기능에는 배포 비용과 모델 지연 시간을 줄여 관리형 머신러닝(ML) 인프라 운영을 최적화하는 기능이 포함됐다.
브라틴 사하(Bratin Saha) AWS 인공지능 및 머신러닝 부문 부사장은 “생성형 AI에 대한 관심이 모든 산업군으로 확산됐다”며 “AI 도입을 위한 시스템 구축, 학습, 배포를 위해 학습 속도와 비용 최적화, 지연 시간 단축, FM 평가와 노코드 모델 구축까지 아마존 세이지메이커를 개선해 고객의 접근성을 높일 수 있도록 도울 것”이라고 말했다.
이번에 발표된 세이지메이커의 신규 기능을 살펴보면 고객이 더 쉽고 빠르게 모델을 학습시키고 운영해 생성형 AI 애플리케이션을 개선할 수 있도록 돕는다. 세이지메이커 하이퍼포드(SageMaker HyperPod)는 대규모 FM 학습 가속화를 지원한다. 세이지메이커 인퍼런스(SageMaker Inference)는 모델의 배포 비용을 평균 50% 줄여주고 지연시간을 20% 감소시키는 기능이다.
AWS는 책임감 있는 인공지능(AI) 사용을 지원하고 품질 매개변수를 기반으로 올바른 모델의 선택을 돕는 새로운 세이지메이커 클래리파이(SageMaker Clarify) 기능을 도입했다. 이 기능은 고객이 구동할 모델을 비교해 보고서를 생성해 최상의 모델을 선택할 수 있도록 돕는다.
세이지메이커 캔버스(SageMaker Canvas)는 자연어를 활용한 새로운 노코드(no-code) 기능과 함께 모델을 활용한 비즈니스 분석을 지원하는 세이지메이커의 기존 가용 기능을 확장했다.
아울러 모델의 성공적인 개발과 관리를 위해서는 다양한 기능이 필요한데 세이지메이커는 팰컨(Falcon) 40B 및 180B, IDEFICS, 쥬라기-2(Jurassic-2), 스테이블 디퓨전(Stable Diffusion), 스타코더(StarCoder) 등의 모델 학습을 지원한다.