Золотой стандарт для обучения AI в 2026 году. Архитектура Hopper, 80-94 GB HBM3, NVLink четвёртого поколения. Модели до 180B параметров на одном узле из 8 карт. Для моделей 400B+ рассмотрите NVIDIA H200 со 141 ГБ памяти.
Модификации
NVIDIA H100
Все цены в тенге с НДС. Наличие на складе в Алматы. Гарантия 3 года.
H100 80GB PCIe
OEM вариант
H100 80GB PCIe
Passive Cooling
H100 NVL 94GB PCIe
Passive Cooling, NVLink
Полные спецификации
NVIDIA H100
| Архитектура | NVIDIA Hopper |
| Техпроцесс | TSMC 4N |
| CUDA Cores | 16 896 |
| Tensor Cores | 528 (4th Gen) |
| FP8 Tensor | 3 958 TFLOPS |
| FP16 Tensor | 1 979 TFLOPS |
| FP32 | 989 TFLOPS |
| Память | 80 GB / 94 GB HBM3 |
| Пропускная способность памяти | 3.35 TB/s |
| NVLink | 900 GB/s (4th Gen) |
| PCIe | Gen5 x16 |
| TDP | 350W (PCIe) / 700W (SXM) |
| Форм-фактор | PCIe Dual-Slot, Full-Height |
Для каких задач
подходит H100
Обучение LLM
Pre-training моделей до 180B параметров на кластере из 8 карт H100. FP8 Transformer Engine ускоряет обучение в 6 раз по сравнению с A100.
Fine-tuning
LoRA и QLoRA на моделях 70B+ параметров. 80 GB HBM3 позволяет загрузить полную модель Llama 70B в одну карту для дообучения.
Инференс
Обслуживание LLM в продакшене. H100 обрабатывает в 3-4 раза больше токенов в секунду, чем A100. vLLM + TensorRT-LLM для максимальной пропускной способности. Для энергоэффективного инференса без HBM — NVIDIA L40S.
HPC и научные вычисления
Молекулярная динамика, симуляции климата, вычислительная физика. FP64 производительность 67 TFLOPS. PCIe Gen5 и NVLink для масштабирования. Для максимальных HPC-задач смотрите NVIDIA B200 на архитектуре Blackwell.
H100 vs A100:
в 6 раз быстрее для трансформеров
Архитектура Hopper с Transformer Engine и FP8 кардинально увеличивает производительность на задачах AI по сравнению с предыдущим поколением Ampere.
| Параметр | A100 80GB | H100 80GB | Прирост |
|---|---|---|---|
| FP8 Tensor | - | 3 958 TFLOPS | Новый |
| FP16 Tensor | 624 TFLOPS | 1 979 TFLOPS | 3.2x |
| Transformer Engine | - | Да | 6x на LLM |
| Память bandwidth | 2.0 TB/s | 3.35 TB/s | 1.7x |
| NVLink | 600 GB/s | 900 GB/s | 1.5x |
| PCIe | Gen4 x16 | Gen5 x16 | 2x |
Нужна
NVIDIA H100?
Оставьте заявку - подготовим коммерческое предложение с ценами на H100 и подберём серверную платформу за 2 часа.
Получить предложение
Заполните форму - мы свяжемся с вами
