A100
대규모 데이터 분석, AI 트레이닝, HPC 워크로드에 적합
A100 사양
| A100 80GB PCIe | A100 80GB SXM | |||
|---|---|---|---|---|
| FP64 | 9.7 TFLOPS | |||
| FP64 Tensor 코어 | 19.5 TFLOPS | |||
| FP32 | 19.5 TFLOPS | |||
| Tensor Float 32 (TF32) | 156 TFLOPS | 312 TFLOPS* | |||
| BFLOAT16 Tensor 코어 | 312 TFLOPS | 624 TFLOPS* | |||
| FP16 Tensor 코어 | 312 TFLOPS | 624 TFLOPS* | |||
| INT8 Tensor 코어 | 624 TOPS | 1248 TOPS* | |||
| GPU 메모리 | 80GB HBM2e | 80GB HBM2e | ||
| GPU 메모리 대역폭 | 1,935 GB/s | 2,039 GB/s | ||
| 최대 열 설계 전력(TDP) | 300W | 400W *** | ||
| 멀티 인스턴스 GPU | 최대 7개의 MIGs @ 10GB | 최대 7개의 MIGs @ 10GB | ||
| 폼 팩터 | PCIe 이중 슬롯 공랭식 또는 단일 슬롯 수냉식 |
SXM | ||
| 인터커넥트 |
NVIDIA® NVLink® 2개의 GPU를 위한 브리지: 600GB/s ** PCIe Gen4: 64 GB/s |
NVLink: 600 GB/s PCIe Gen4: 64 GB/s |
||
| 서버 옵션 | 1~8개의 GPU가 지원되는 파트너 및 NVIDIA-Certified Systems™ |
4개, 8개 또는 16개의 GPU가 지원되는 NVIDIA HGX™ A100 파트너 및 NVIDIA-Certified System 8개의 GPU가 지원되는 NVIDIA DGX™ A100 |
||
* 희소성 포함
** HGX A100 서버 보드를 통한 SXM4 GPU, 최대 2개의 GPU를 위한 NVLink 브리지를 통한 PCIe GPU
*** 400W TDP(표준 구성용) HGX A100-80GB 사용자 지정 열 솔루션(CTS) SKU는 최대 500개의 TDP를 지원할 수 있습니다
** HGX A100 서버 보드를 통한 SXM4 GPU, 최대 2개의 GPU를 위한 NVLink 브리지를 통한 PCIe GPU
*** 400W TDP(표준 구성용) HGX A100-80GB 사용자 지정 열 솔루션(CTS) SKU는 최대 500개의 TDP를 지원할 수 있습니다
A100 제공 GPUaaS 플랫폼 및 요금제
NCP
NCP에서 제공하는 GPUaaS
요금제
(VAT 별도)
| 서버스펙코드 | GPU | vCPU | 메모리 | 기본 디스크 | 시간 요금 | 월 요금 |
|---|---|---|---|---|---|---|
| gp8ap56-g3 | 8개 x 80GB | 56개 | 1.9TB | - | 49,928 원 | 35,948,160 원 |
NHN CLOUD
NNH CLOUD에서 제공하는 GPUaaS
요금제
(VAT 별도)
| 과금 구분 | 과금 기준 |
요금 | |||||||
|---|---|---|---|---|---|---|---|---|---|
| 인스턴스 타입 | 모델 | GPU | GPU 메모리 | vCPU | 메모리 | ||||
| Graphics Optimized | g4 | g4.c92m1800 | A100 | 8개 | 320GB | 92개 | 1800GB | 사용 시간 누적 | 47,848원/시간 |
Samsung SDS GPUaaS
Samsung SDS에서 제공하는 GPUaaS
요금제
| 온디맨드형 플랜 | 절감형 플랜 (1년 약정) | 초절감형 플랜 (3년 약정) |
|---|---|---|
| 정기 약정 없이 사용하는 무약정 요금제 | 1년 약정으로 표준형 대비 최대 30 ~35% 할인된 요금으로 이용 가능 | 3년 약정으로 표준형 대비 최대 45 ~55% 할인된 요금으로 이용 가능 |
kt cloud GPUaaS
kt cloud에서 제공하는 GPUaaS
요금제
| vCore | Memory | GPU 개수 | 요금 | GPU 모델 | 제공 Zone | |
|---|---|---|---|---|---|---|
| 월 요금(원/월) | 시간 요금(원/시간) | |||||
| 16 | 90 | 1 | 4,836,145원 | 6,716원 | NVIDIA Tesla A100 | DX-M1 |
| 32 | 180 | 2 | 8,705,061원 | 12,090원 | ||