H100
인공지능 및 고성능 컴퓨팅 애플리케이션을 위해 설계된 최신 데이터 센터용
H100 사양
| H100 SXM | H100 NVL | |
|---|---|---|
| FP64 | 34테라플롭스 | 30테라플롭스 |
| FP64 Tensor 코어 | 67테라플롭스 | 60테라플롭스 |
| FP32 | 67테라플롭스 | 60테라플롭스 |
| TF32 Tensor 코어* | 989테라플롭스 | 835테라플롭스 |
| BFLOAT16 Tensor 코어* | 1,979테라플롭스 | 1,671테라플롭스 |
| FP16 Tensor 코어* | 1,979테라플롭스 | 1,671테라플롭스 |
| FP8 Tensor 코어* | 3,958테라플롭스 | 3,341테라플롭스 |
| INT8 Tensor 코어* | 3,958TOPS | 3,341TOPS |
| GPU 메모리 | 80GB | 94GB |
| GPU 메모리 대역폭 | 3.35TB/s | 3.9TB/s |
| 디코더 | 7 NVDEC 7 JPEG |
7 NVDEC 7 JPEG |
| 최대 열 설계 전력(TDP) | 최대 700W(구성 가능) | 350-400W(구성 가능) |
| 멀티 인스턴스 GPU(MIG) | 최대 7개의 MIG, 각각 10GB | 최대 7개의 MIG, 각각 12GB |
| 폼 팩터 | SXM | PCIe 듀얼 슬롯(공랭식) |
| 인터커넥트 | NVIDIA NVLink™: 900GB/s PCIe Gen5: 128GB/s |
NVIDIA NVLink: 600GB/s PCIe Gen5: 128GB/s |
| 서버 옵션 | GPU가 4개 또는 8개인 NVIDIA HGX H100 파트너 및 NVIDIA-Certified Systems™ GPU가 8개인 NVIDIA DGX H100 |
GPU가 1~8개인 파트너 인증 시스템 및 NVIDIA-Certified System™ |
| NVIDIA AI Enterprise | Add-on | 포함 항목 |
* 희소성 포함
H100 제공 GPUaaS 플랫폼 및 요금제
Samsung SDS GPUaaS
Samsung SDS에서 제공하는 GPUaaS
요금제
| 온디맨드형 플랜 | 절감형 플랜 (1년 약정) | 초절감형 플랜 (3년 약정) |
|---|---|---|
| 정기 약정 없이 사용하는 무약정 요금제 | 1년 약정으로 표준형 대비 최대 30 ~35% 할인된 요금으로 이용 가능 | 3년 약정으로 표준형 대비 최대 45 ~55% 할인된 요금으로 이용 가능 |