Question 1

Подходит ли H100 SXM для дообучения и инференса LLM?

Accepted Answer

Да, благодаря 80 GB VRAM и пропускной способности памяти около 2869 GB/s он отлично подходит как для запуска, так и для дообучения больших языковых моделей. Вы можете сразу приступить к работе в ONIE, используя готовые шаблоны для vLLM, Ollama или PyTorch/CUDA.

Question 2

Чем вариант SXM отличается от менее мощных GPU для дата-центров или рабочих станций?

Accepted Answer

H100 SXM работает при теплопакете 700 W, что позволяет ему поддерживать более высокую вычислительную производительность и пропускную способность памяти по сравнению с серверными вариантами PCIe или картами для рабочих станций. Если ваша нагрузка не задействует около 53.5 TFLOPS вычислений или 80 GB памяти, может быть достаточно менее мощного GPU.

Question 3

Какую программную совместимость обеспечивает вычислительная способность CUDA 9.0?

Accepted Answer

Вычислительная способность 9.0 означает аппаратную поддержку инструкций и функций архитектуры NVIDIA Hopper. Наши предварительно настроенные шаблоны PyTorch/CUDA сразу готовы к использованию этого оборудования без ручной установки драйверов.

Question 4

Как устроены тарификация и доступ к инстансам в ONIE?

Accepted Answer

Инстансы оплачиваются почасово в течение всего срока аренды. После развёртывания вы можете подключиться к своей среде напрямую по SSH или работать с предустановленными инструментами, такими как ComfyUI.

GPU	VRAM на GPU	Архитектура	Производительность FP32	От / час	Подробнее
H100 SXM	80 GB	Hopper	≈ 53.5 TFLOPS	—
H100 NVL	94 GB	Hopper	≈ 48.3 TFLOPS	—	Подробнее
H100 PCIE	80 GB	Hopper	≈ 41 TFLOPS	—	Подробнее
RTX 6000D	84 GB	Blackwell	≈ 77.6 TFLOPS	—	Подробнее

Почасовая аренда GPU NVIDIA H100 SXM

Характеристики

VRAM на GPU

Архитектура

Вычислительная способность

Производительность FP32

Пропускная способность памяти

Лимит мощности

Доступные конфигурации

Сравнение с аналогичными GPU

Почасовая аренда H100 SXM