NVIDIA H200

Ускоритель архитектуры Hopper с 141 ГБ памяти HBM3e. Тот же вычислительный блок, что у H100, но на 76% больше памяти и на 43% выше её пропускная способность. Основной выбор для обучения и инференса моделей, которым тесно в 80 ГБ.

Характеристики

	H200 NVL	H200 SXM
Память	141 ГБ HBM3e	141 ГБ HBM3e
Пропускная способность	4,8 ТБ/с	4,8 ТБ/с
FP8, без sparsity	около 1 670 TFLOPS	около 1 980 TFLOPS
Интерфейс	PCIe 5.0 x16	SXM5 на плате HGX
NVLink	мост на 2 или 4 карты, до 900 ГБ/с	NVSwitch, все 8 карт, 900 ГБ/с
Мощность	до 600 Вт	до 700 Вт
Где живёт	обычный PCIe-сервер на 2–8 слотов	только в составе HGX H200 или DGX H200

NVL или SXM

• H200 NVL ставится в стандартную 4U-платформу вместе с другими PCIe-картами. Четыре карты соединяются NVLink-мостом и работают как узел с 564 ГБ памяти.
• H200 SXM продаётся только внутри HGX-платы на 8 ускорителей: 1,1 ТБ памяти, NVSwitch между всеми картами, 7–8U, до 10 кВт на узел. Это машина для обучения, а не для одиночного инференса.
• Если задача помещается в 4 карты, NVL дешевле и проще в размещении. Если нужно обучать модели на всех восьми картах с полной связностью, только SXM.

Что помещается в 141 ГБ

• Одна карта: модели до 70 млрд параметров в FP16 или до 140 млрд в FP8 с полным контекстом.
• Четыре H200 NVL, 564 ГБ: инференс моделей 400–500 млрд в FP8, дообучение 70-миллиардных моделей без квантования.
• Восемь H200 SXM, 1,1 ТБ: обучение и инференс моделей 670+ млрд в FP8, полноразмерные модели класса DeepSeek V3 и R1 на одном узле.

H200 или RTX PRO 6000 Blackwell

	H200 NVL	RTX PRO 6000 Blackwell SE
Память	141 ГБ HBM3e	96 ГБ GDDR7
Пропускная способность	4,8 ТБ/с	1,6 ТБ/с
NVLink	есть	нет
FP8	около 1 670 TFLOPS	около 2 000 TFLOPS
Мощность	600 Вт	600 Вт
Стоимость гигабайта памяти	высокая	в несколько раз ниже
Поставка	ограничена, по запросу	доступна

Для инференса и RAG в большинстве случаев хватает RTX PRO 6000: по вычислениям он не уступает, а память дешевле. H200 берут ради пропускной способности HBM и NVLink, то есть для обучения и для инференса с большим числом одновременных пользователей.

Наличие

H200 относится к номенклатуре с ограничениями поставки со стороны страны-производителя. Наличие, сроки и возможность поставки конкретной конфигурации уточняются по запросу; на сайте эти позиции справочные. Смотрите также: RTX PRO 6000 Blackwell, H100, DGX.

Информация на сайте не является публичной офертой. Характеристики приведены по документации NVIDIA.