NVIDIA L40S

Универсальный ускоритель архитектуры Ada Lovelace: тензорные ядра для инференса, RT-ядра для рендеринга, аппаратные кодеки для видео. Самый популярный выбор 2024–2025 годов для инференса среднего размера и смешанных нагрузок.

Характеристики

Архитектура	Ada Lovelace
Память	48 ГБ GDDR6 с ECC
Пропускная способность	864 ГБ/с
FP8, без sparsity	около 730 TFLOPS
Интерфейс	PCIe 4.0 x16
NVLink	нет
Мощность	350 Вт
Охлаждение	пассивное, серверное
Кодеки	3× NVENC, 3× NVDEC, AV1

Для каких задач

• Инференс моделей до 30 млрд параметров в FP16 или до 45 млрд в FP8 на одной карте; 4 карты — модели до 150 млрд в FP8.
• Видеоаналитика и компьютерное зрение: аппаратное декодирование десятков потоков плюс инференс на той же карте.
• Рендеринг и генерация изображений: RT-ядра, которых нет у H100 и H200.
• Виртуальные рабочие столы и графические станции через vGPU.

L40S или RTX PRO 6000 Blackwell

	L40S	RTX PRO 6000 Blackwell SE
Память	48 ГБ GDDR6	96 ГБ GDDR7
Пропускная способность	864 ГБ/с	1 597 ГБ/с
FP8	около 730 TFLOPS	около 2 000 TFLOPS
FP4	нет	около 4 000 TFLOPS
Мощность	350 Вт	600 Вт
Интерфейс	PCIe 4.0	PCIe 5.0

RTX PRO 6000 — прямой наследник L40S с удвоенной памятью и втрое большей производительностью. L40S остаётся разумным выбором, когда бюджет ограничен, задача помещается в 48 ГБ или сервер не рассчитан на 600-ваттные карты по питанию и охлаждению.

Позиции в каталоге

L40S и L20 в каталоге, AI-серверы. Наличие и цена подтверждаются по запросу. Смотрите также: RTX PRO 6000 Blackwell.

Информация на сайте не является публичной офертой. Характеристики приведены по документации NVIDIA.