[더테크=전수연 기자] 델 테크놀로지스(이하 델)가 레드햇과 협력해 AI 인프라 구축을 간소화하는 턴키 솔루션 ‘레드헷 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼(Dell APEX Cloud Platform for Red Hat OpenShift AI)’을 출시했다고 9일 밝혔다.

이번 플랫폼은 레드햇 오픈시프트를 위해 설계된 업계 최초의 완전 통합형 애플리케이션 딜리버리 플랫폼이다. 기업, 공공기관이 온프레미스에서 가상 머신과 함께 컨테이너를 구축, 관리, 운영할 수 있도록 지원한다.

델은 이번 플랫폼에 레드햇 오픈시프트 컨테이너 플랫폼에 대한 컨트롤 플레인 호스팅 지원을 추가했다. 이는 관리 비용을 줄이고 클러스터 구축 시간을 단축하거나 워크로드 관리 부담을 줄여 애플리케이션에 집중할 수 있도록 돕기 위함이다.

레드햇 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼은 기업, 기관에서 더 많은 GPU를 활용해 AI 결과물의 범위를 넓힐 수 있도록 설계됐다. 고유한 요구사항에 부합하는 맞춤형 인프라 구성 유연성을 제공하고 까다로운 AI 애플리케이션에도 적합한 앤비디아 L40S GPU를 탑재했다.

규모에 관계없이 설계에 따라 다양한 스토리지 요구사항에도 대응할 수 있도록 델 파워플렉스와 델 오브젝트스케일 스토리지를 모두 지원한다. 오브젝트 스토리지는 확장 가능하고 비용 효율적인 데이터 관리를 지원해 LLM과 대규모 데이터 세트를 수용하는 데 도움이 된다.

델은 에이펙스 클라우드 플랫폼에서 제공할 수 있는 레드햇 오픈시프트 AI의 잠재력을 실현하기 위해 검증 설계의 디지털 어시스턴트를 업데이트하면서 LLM과 검색 증강 생성(RAG) 프레임워크를 70억 개, 매개변수 모델을 130억 개로 늘렸다.

기업, 기관은 LLM 만으로 조직에 대한 도메인별 최신 정보를 확보하기 어려우므로 RAG를 사용해 자체 보유 데이터 기반 LLM을 보강하고 최신 정보를 빠르게 학습시킬 수 있다.

델은 다양한 오픈소스 오퍼레이터를 활용해 쉽게 복제하고 각각의 비즈니스 요구사항에 맞게 디자인을 조정할 수 있도록 지원한다. 레드햇 오픈시프트 AI는 특정 퍼블릭클라우드 전용 툴에 종속되거나 인프라에 대한 걱정 없이 모델을 구축할 수 있는 협업 기반 오픈소스 도구 세트와 플랫폼을 제공해 규범 AL, 머신러닝 제품에 대한 대안을 제공한다.

이와 함께 델은 AI를 사용해 자동화된 음성 인식, 텍스트 음성 변환 기능을 구현하는 솔루션을 선보인다. 이 오퍼링은 GPU 가속 음성 AI 애플리케이션을 구축하는 마이크로서비스인 엔비디아 리바를 통해 델 에이펙스 클라우드 플랫폼에서 레드햇 오픈시프트 AI의 성능을 확장한다. 이를 통해 자체 자연어 처리 솔루션의 배포를 간소화할 수 있다.

한편 델은 서비스 사업부를 통해 레드햇 오픈시프트 AI 플랫폼의 가치 실현 시간을 단축할 수 있도록 돕는다. 델의 검증된 방법론을 기반으로 하는 프로컨설트 자문 서비스에서부터 구현 서비스에 이르기까지 다양한 고부가가치 AI 활용 사례에 요구되는 성공 전략을 제공한다.

아울러 RAG 기술을 활용해 사용자의 데이터에 맞게 모델을 맞춤화하고 이를 AI 아바타, 챗봇, 기타 애플리케이션에 통합해 관련성 높고 영향력 있는 결과를 도출하도록 지원한다. 특히 데이터 준비, LLM 훈련을 최소화하고 조직에 요구되는 필수 기술과 모범 사례를 통해 현재와 미래의 ROI를 극대화하도록 지원한다.