델-엔비디아, '엔비디아 기반 델 AI 팩토리' 확장

2024.05.22 10:09:04

새로운 서버, 엣지, 워크스테이션, 솔루션, 서비스 등 추가해 신속한 AI 도입 지원
RAG(검색증강생성), 모델 학습 및 추론과 같은 AI 사용 사례에 적용 가능

 

[더테크=전수연 기자] 델 테크놀로지스(이하 델)가 엔비디아와의 협력을 확대하며 엔비디아 기반 델 AI 팩토리에 새로운 서버, 엣지, 워크스테이션, 솔루션, 서비스 등을 추가해 AI 도입 지원에 박차를 가한다고 22일 밝혔다.

 

델은 엔비디아 기반 델 AI 팩토리 포트폴리오의 확장이 양사 공동의 사명을 이어가는 것이라고 전했다. 또 더 많은 기업, 기관들이 AI를 보다 쉽게 구축해 과감하게 차세대 기술에 도전할 수 있도록 지원할 방침이다.

 

엔비디아는 생성형 AI가 새로운 유형의 컴퓨팅 인프라, 인텔리전스를 생성하는 AI 팩토리를 필요로 한다고 전했다. 엔비디아와 델은 함께 협력해 다양한 산업군에 컴퓨팅, 네트워킹, 소프트웨어를 포함한 풀스택 오퍼링을 제공해 코파일럿, 코딩 어시스턴트, 가상 고객 서비스 에이전트, 산업용 디지털 트윈 등을 구축할 수 있도록 지원할 계획이다.

 

엔비디아 기반 델 AI 팩토리는 델의 AI 포트폴리오를 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼과 통합한 오퍼링이다. 엔비디아 텐서 코어 GPU, 엔비디아 스펙트럼-X 이더넷 네트워킹 패브릭·엔비디아 블루필드 DPU 등의 기술을 기반으로 하고 있다.

 

사용자는 필요에 따라 맞춤화된 통합 기능 또는 사전 검증된 전체 스택 솔루션을 구매해 RAG(검색 증강 생성), 모델 학습·추론과 같은 AI 사용 사례에 적용할 수 있다.

 

새로운 델 파워엣지 XE9680L은 기존 모델 대비 더 작은 4U 폼팩터에 8개의 엔비디아 블랙웰 아키텍처 GPU를 탑재해 높은 성능을 제공한다. 또 업계 표준 x86 랙 상에서 엔비디아 GPU를 탑재한 서버 중 최고 수준의 랙 스케일 집적도이며 기존 모델 대비 노드당 33% 더 높은 GPU 집적도를 제공한다. 또 20% 더 많은 5세대 PCIe 슬롯을 장착하고 네트워크 확장 용량을 2배로 늘렸다.

 

파워엣지 XE9680L 서버는 다이렉트 리쿼드 쿨링 기술로 CPU·GPU의 냉각 용량을 높여 효율성 전반을 향상시켰다. 랙 스케일 구축과 현장 설치가 용이하도록 공장에서부터 구성이 완료된 상태로 출하된다.

 

델은 업계에서 가장 높은 집적도와 에너지 효율의 랙 규모 턴키 솔루션을 공급함으로써 대규모 GPU 가속 구축의 가치 실현 시간을 단축한다고 설명했다. 델과 엔비디아는 향후 단일 랙에서 64개의 GPU를 지원하는 공랭식 설계 또는 단일 랙에서 72개의 엔비디아 블랙웰 GPU를 지원하는 수냉식 사례 등 다양한 옵션을 선보일 예정이다.

 

이외에도 델 네이티브 엣지는 엔비디아 AI 엔터프라이즈 소프트웨어 배포를 자동화하는 최초의 엣지 오케스트레이션 플랫폼이다. 개발자와 IT 운영자는 이를 통해 엣지에 AI 애플리케이션·솔루션을 구축할 수 있다.

 

제조업이나 유통업계 기업들은 엔비디아 메트로폴리스 영상 분석, 엔비디아 리바 음성과 번역 기능, 엔비디아 NIM 추론 마이크로서비스가 포함된 새로운 델 네이티브앳지 블루프린트를 통해 엣지 데이터를 분석할 수 있다.

 

새롭게 공개된 디지털 어시스턴트를 위한 델 생성형 AI 솔루션은 델과 엔비디아의 풀스택 솔루션을 기본으로 사용자가 개인화된 셀프서비스를 경험할 수 있게 디지털 어시스턴트의 구축을 돕는다. 함께 공개된 디지털 어시스턴트를 위한 구축 서비스는 디지털 어시스턴트 솔루션을 설계, 계획, 구현, 테스트·확장할 수 있도록 지원한다.

 

양사 공동 엔지니어링을 통해 설계된 풀스택 자동화 솔루션 엔비디아 기반 델 AI 팩토리는 다양한 활용 사례에 대한 AI 환경을 빠르게 구축하도록 돕는다. 가치 실현 시간을 최대 85% 앞당기며 엔비디아 추론 마이크로서비스와 함께 사용할 경우 전송에서 추론 작업 실행에 걸리는 전체 시간을 단축한다.

 

프리시전 AI 워크스테이션 기반 RAG를 위한 델 가속기 서비스는 AI 개발 주기를 단축하고 AI 애플리케이션 성능을 향상시킨다. 엔비디아 AI 워크밴치 툴킷이 탑재된 델 프리시전 워크스테이션 기반 RAG를 통해 맞춤형 LLM을 활용하고 안전한 환경에서의 프로토타이핑을 지원한다.

 

 

전수연 기자 suyeon@the-tech.co.kr
Copyright @더테크 (TEC TECH) Corp. All rights reserved.




16건의 관련기사 더보기

  • 네이버포스트
  • X
  • Facebook