[Dell PowerEdge R750xa 출고 리뷰] 특급 GPU NVIDIA H100 2장 장착!

 

안녕하십니까!

 

출고 리뷰로 찾아온 다산데이타 입니다!

 

오늘 들고 온 제품은 Dell PowerEdge R750xa 입니다!!!!

 

아... 1월에 리뷰 했었다구요??

 

 

[DELL PowerEdge R750xa 출고리뷰] 단종된 RTX 3090 블로워 타입 장착!

 

맞습니다!

 

지난 1월에 Dell PowerEdge R750xa를 리뷰 했었습니다!

 

하지만!

 

 

이번 리뷰는 무려 NVIDIA의 최강 스펙을 자랑하는

 

NVIDIA H100 Tensor 코어 GPU

 

가 장착되었습니다!

 

※ 현재 NVIDIA H100를 구하기는 상당히 어렵다는 점 미리 말씀드립니다.(오래 걸릴 수 있습니다.)

 

 

 

먼저 출고 제품의 사양을 보여드리겠습니다!

 

 

다음으로 Dell PowerEdge R750xa와 NVIDIA H100 GPU의 스펙시트를 보여드리겟습니다.

 

▽▼▽▼▽▼▽▼▽▼▽▼

 

Dell PowerEdge R750xa

dell-poweredge-r750xa-spec-sheet.pdf

0.27MB

NVIDIA H100 GPU(영문)

NVIDIA H100 GPU Spec Sheet.pdf

0.75MB

 

---

 

그럼 지금부터는 제품을 보여드리면서 소개 드리겠습니다!

 

1월에 소개드린 R750xa와 대체로 동일하기 때문에 최대한 간략하게 소개하겠습니다.

 

 

전면부에는 중앙에 드라이브 베이가 있고,

 

좌측 컨트롤 패널에 상태 표시등,

 

우측 컨트롤 패널에는 전원을 비롯해 USB 포트 iDRAC Direct Micro 포트가 설치돼 있습니다!

 

 

후면부는 양쪽 끝에 Power Suply, 중앙에는 NIC포트, iDRAC 포트, USB 포트, VGA로 구성되어 있습니다.

 

 

 

다른 Dell 제품과 마찬가지로 상단의 레버를 통해 내부를 열어보면

 

중앙의 냉각팬과 CPU / RAM이 있고, Rear 방향 중간에는 RISER CARD로 구성되어 있습니다.

 

RISER CARD는 '3'번으로 되어 있습니다.(이미 아시는 분들도 계시겠죠?)

 

 

냉각팬은 다른 델 서버와 마찬가지로 CPU / RAM의 온도를 조절해 주는 역할을 합니다.

 

냉각팬 반대인 Front 쪽으로는 R750xa 만의 특징이 있습니다!

 

 

위의 화살표 방향으로 Front 상판을 열면 2개의 RISER CARD가 있는데

 

Dell PowerEdge R750xa가 

GPU 기반 워크로드를 위한 주력 서버

 

인 만큼 GPU RISER CARD로 구성되어 있습니다.

(바로 Rear 상판을 열었을 때 봤던 RISER CARD가 3번인 이유입니다!)

 

 

사실상 오늘의 주인공인 NVIDIA H100 Hopper Tencer Core GPU의 등장입니다.

 

 

 

저희 다산데이타 리뷰에도 처음 등장하는 NVIDIA H100 입니다!

 

 

 

NVIDIA H100은 무수한 데이터를 정제하고 처리할 수 있는 Hopper Architecture 엔진을 장착하여

 

트랜스포머엔진의 성능을 최대한 끌어올리는 혁신기술을 선보였습니다!

 

 

때문에 언어기반 AI, 로봇공학, 헬스케어는 물론 생과학분야 등

 

GPU기반의 워크로드에 적합한 것으로 알려져 있습니다.

 

 

 

앞서 설명드렸던것과 같이 Dell PowerEdge R750xa 서버에 장착하면서

 

보다 뛰어난 성능을 기대해 볼 수 있을 것입니다.

 

 

 

NVIDIA 홈페이지 공개자료

 

NVIDIA가 홈페이지를 통해 공개한 H100 과 A100을 비교한 내용을 보면

 

초대형 모델에서 최대 9배의 AI 훈련 성능, 최대 30배 더 높은 AI 추론 성능을 보여주며

 

HPC 애플리케이션 성능이 최대 7배

 

의 차이를 보여준다고 공개했습니다.

 

 

 

SpecSheet를 통해 공개한 수치 차이를 보더라도

 

PCIe 기준, 그래픽 내 다양한 측면 처리를 담당하는 프로세서인

 

Shading Units(CUDA core) 수치는 두배 이상 차이나며,

 

부스트코어, 베이스클럭을 비롯해 전반적인 부분에서 높은 성능을 보여줍니다.

 

또 PCIe 폼펙터도 4세대에서 5세대로 넘어가면서 대역폭은 2배 차이를 보이고 있습니다.

 

 

수치만 보더라도 높은 성능을 가지고 있다는 사실을 알 수 있습니다.

(물론 가격도 더 높을 것이라는 사실도 알 수 있구요.)

---

 

오늘은 Dell PowerEdge R750xa를 통해 '구하기 어려운' NVIDIA H100 제품을 만나봤습니다.

 

무조건 적인 높은 성능에 초점을 맞추는 것 보다는 필요에 맞는 적절한 구성이 중요하다는 점 알고 계시죠!

 

오늘의 리뷰는 여기서 마치겠습니다!

 

 

 

 

제품에 대한 궁금증과 견적요청은 아래 연락처 및 이메일, 카카오챗을 통해 문의하실 수 있으며,

 

상단 메뉴의 '견적문의'를 통해서도 받아보실 수 있습니다.

 

즐거운 하루 되시기 바랄게요.

 

감사합니다. ^^