[더테크=조명의 기자] 델테크놀로지스가 엔디바아와 협력해 온프레미스에서 생성형 AI 모델을 구축, 사용할 수 있도록 지원을 확대한다.
델 테크놀로지스 지난 22일부터 25일(현지시간) 진행되는 ‘DTW(델 테크놀로지스 월드) 2023’에서 엔비디아와의 협력을 통해 온프레미스 생성형 AI 구축을 위한 ‘프로젝트 헬릭스(Project Helix)’를 발표했다.
프로젝트 헬릭스는 델과 엔비디아의 인프라 및 소프트웨어가 사전 구성되어 있는 풀 스택 솔루션으로 제공된다. 기업에서는 이를 활용해 독점적으로 보유한 데이터를 바탕으로 쉽고 간편하게, 정확하고 책임감 있는 생성형 AI를 구축할 수 있다.
또한 델이 제공하는 하드웨어와 소프트웨어 중 최적화된 조합으로 엔터프라이즈 생성형 AI를 간소화한다. 엔터프라이즈 데이터를 보다 스마트하게 가치 있는 결과물로 재탄생 시키는 동시에, 데이터 프라이버시를 유지할 수 있다. 인프라 프로비저닝, 모델링, 학습, 미세 조정, 애플리케이션 개발 및 배포에서부터 추론 배치와 결과 간소화에 이르기까지 생성형 AI 라이프사이클 전체를 지원한다.
파워엣지 XE9680 및 파워엣지 R760xa와 같은 델 파워엣지 서버는 생성형 AI 교육 및 AI 추론을 위한 성능을 제공하도록 최적화되어 있다. 델 서버와 엔비디아 H100 텐서코어 GPU 및 엔비디아 네트워킹의 조합은 이러한 워크로드에 적합한 인프라 백본을 형성한다. 이 인프라는 델 파워스케일 및 델 ECS 엔터프라이즈 오브젝트 스토리지 등의 탄력적이고 확장 가능한 비정형 데이터 스토리지와 연계할 수 있다.
모든 종류의 델 검증 설계에서 고객들은 델 서버와 스토리지 소프트웨어의 엔터프라이즈 기능을 사용할 수 있으며, AI옵스(AIOps) 소프트웨어인 델 클라우드IQ를 통해 인프라 통찰력도 확보할 수 있다.
프로젝트 헬릭스에는 또한 엔비디아 AI 엔터프라이즈 소프트웨어가 포함돼 100여개 이상의 프레임워크, 사전 학습 모델, 개발 툴이 제공되며, 특히 대형 언어 프레임워크인 엔비디아 네모와 네모 가드레일 소프트웨어를 통해 최신 정보의 안전한 생성형 AI 챗봇 구축을 지원한다.
김경진 한국 델 테크놀로지스 총괄사장은 “올해 DTW 행사에서 발표된 델과 엔비디아와의 협력은 엔터프라이즈 환경에서 보다 신뢰할 수 있는 회사 고유의 온프레미스 생성형 AI 모델을 구축할 수 있는 새로운 가능성을 제시한다”라고 말했다.
델은 엣지 운영을 위한 소프트웨어 플랫폼 ‘델 네이티브엣지(Dell NativeEdge)’도 새롭게 공개했다.
델 네이티브엣지는 엣지와 코어 데이터센터, 멀티 클라우드 환경의 광범위한 엣지 구축을 단순화하고 최적화한다. 델이 지난해 사전공개한 ‘프로젝트 프론티어(Project Frontier)’의 결과물인 델 네이티브엣지는 대규모 환경에 대한 원격 관리 및 멀티클라우드 애플리케이션의 오케스트레이션을 지원한다.
엔터프라이즈 엣지 사용 사례를 위한 목적형 플랫폼으로, 제로 터치 구축과 개방형 시스템 설계가 특징이며, 델의 옵티플렉스 데스크탑, 파워엣지 서버, 엣지 게이트웨이 등 다양한 하드웨어와 통합할 수 있다. 또한 제로 트러스트 구현 기능이 탑재되어 엣지 자산 전반의 보안 위험으로부터 애플리케이션 및 인프라를 보호한다.
예를 들어, 제조 대기업이 방대한 거점에 걸쳐 포장과 운송을 자동화하고자 할 때, 사물인터넷(IoT), 스트리밍데이터, 머신 비전 등 다양한 신기술을 접목하고 다수의 애플리케이션을 적용해야 한다.
이러한 애플리케이션 환경을 테스트하고 구축하는데 에만 수개월이 소요되는데, 델 네이티브 엣지를 활용하면 여러 기술 스택을 통합하고 엣지 자원과 애플리케이션을 배치하는데 시간을 대폭 단축할 수 있으며, 자동화된 엣지 오퍼레이션을 구현해 신규 애플리케이션들을 중앙에서 모든 사이트로 신속하고 안전하게 릴리즈할 수 있다.
김경진 사장은 “대규모로 분산된 아키텍처에서는 데이터가 이동할 때 복잡성이 커지고 많은 비용이 초래될 수 있다”며 “엣지에서 새로운 워크로드와 AI를 효과적으로 활용하기 위해서는 단일 솔루션으로 전체 자산을 관리할 수 있어야 하기 때문에, 델은 하드웨어 혁신에 그치지 않고 엣지 운영 소프트웨어 플랫폼을 선보이게 됐다”고 설명했다.
