B300
Blackwell 아키텍처를 기반으로 한 대규모 언어 모델에 최적화된 고성능 모델
B300 사양
| HGX B300 | |
|---|---|
| 폼 팩터 | 8x NVIDIA Blackwell Ultra SXM |
| FP4 Tensor 코어1 | 144 PFLOPS | 108 PFLOPS |
| FP8/FP6 Tensor 코어2 | 72 PFLOPS |
| INT8 Tensor 코어2 | 3 POPS |
| FP16/BF16 Tensor 코어2 | 36 PFLOPS |
| TF32 Tensor 코어2 | 18 PFLOPS |
| FP32 | 600 TFLOPS |
| FP64/FP64 Tensor 코어 | 10 TFLOPS |
| 총 메모리 | 2.1 TB |
| NVIDIA NVLink | 5세대 |
| NVIDIA NVLink Switch™ | NVLink 5 Switch |
| NVLink GPU-to-GPU 대역폭 | 1.8 TB/s |
| 총 NVLink 대역폭 | 14.4 TB/s |
| 네트워킹 대역폭 | 1.6 TB/s |
| 어텐션 성능3 | 2배 |
1. 희소 모드 사양 | 밀집 사양
2. 희소 사양 밀도는 ½ 희소 사양으로 표시됩니다.
3. NVIDIA Blackwell 대비
2. 희소 사양 밀도는 ½ 희소 사양으로 표시됩니다.
3. NVIDIA Blackwell 대비
B300 제공 GPUaaS 플랫폼 및 요금제
AWS
AWS에서 제공하는 GPUaaS
요금제
VAT 별도
| 인스턴스 크기 | VCPU | 시스템 메모리 | GPU | GPU 메모리 | GPU 간 상호 연결 | EFA 네트워크 대역폭 | ENA 대역폭 | EBS 대역폭 | 로컬 스토리지 | 요금 |
|---|---|---|---|---|---|---|---|---|---|---|
| P6-B300.48xLarge | 192 | 4TB | 8x B300 GPU | 2,144GB HBM3e | 1,800GB/s | 6.4Tbps | 300Gbps | 100Gbps | 8x 3.84TB | 별도 문의 |