AWS, 차세대 프로세서 그래비톤4·트레이니움2 공개

그래비톤4, AWS에서 제공하는 가장 강력한 프로세서
AI 모델 트레이닝 인프라를 위한 차세대 인프라, 트레이니움2

 

[더테크=조재호 기자] 아마존웹서비스(Amazon Web Services, 이하 AWS)는 28일(현지시간) AWS의 연례 컨퍼런스 AWS 리인벤트 2023(AWS re:Invent 2023)에서 차세대 자체 설계 칩 제품군인 AWS 그래비톤4(AWS Graviton4)와 AWS 트레이니움2(AWS Trainium2)를 발표했다.

 

두 칩은 머신러닝 트레이닝과 생성형 인공지능(AI) 애플리케이션을 포함한 고객사의 워크로드에 대해 개선된 성능과 에너지 효율을 제공할 예정이다. AWS는 AMD와 인텔, 엔비디아와 같은 타사의 하드웨어을 비롯해 다양한 유형의 인프라를 제공한다.

 

그래비톤4는 기존 프로세서 대비 최대 30% 향상된 컴퓨팅 성능과 50% 늘어난 코어, 75% 늘어난 메모리 대역폭을 제공한다. 그래비톤4는 모든 고속 물리적 하드웨어 인터페이스를 암호화해 보완성을 높였다.

 

그래비톤4는 아마존 EC2 R8g 인스턴스로 제공돼 고객이 고성능 데이터베이스, 인메모리 캐시, 빅데이터 분석 워크로드의 실행을 개선할 수 있도록 지원한다. R8g 인스턴스는 기존 세대 R7g 인스턴스보다 최대 3배 더 많은 vCPU와 3배 더 많은 메모리로 더 큰 인스턴스 크기를 제공한다. 그래비톤 기반 R8g 인스턴스는 현재 프리뷰 버전으로 제공되며, 몇 달 이내에 정식 출시될 예정이다.

 

트레이니움2는 AI 훈련용 칩으로 최대 수조개의 파라미터를 보유한 파운데이션모델(FM)과 대규모언어모델(LLM)을 위해 제작됐다. 1세대 대비 4배 빠른 학습 성능과 3배 많은 메모리 용량을 제공하면서 전력 소모량은 절반까지 개선했다.

 

트레이니움2는 단일 인스턴스에 16개의 트레이니움 칩이 포함된 아마존 EC2 Trn2 인스턴스로 제공될 예정이다. Trn2 인스턴스는 AWS 엘라스틱 패브릭 어댑터(EFA) 페타비트급 네트워킹과 연결돼 고객사의 차세대 EC2 울트라클라스터에서 최대 10만개의 트레이니움2 칩까지 확장해 최대 65엑사플롭의 컴퓨팅을 제공한다.

 

데이비드 브라운(David Brown) AWS 컴퓨팅 및 네트워킹 부문 부사장은 “칩은 모든 고객사의 워크로드의 기반이자 AWS의 핵심 혁신 분야”라며 “고객사에게 중요한 칩을 설계하면서 고객에게 가장 진보한 클라우드 인프라를 제공할 수 있게 됐다”고 말했다.

 


관련기사

20건의 관련기사 더보기

배너