Оренда GPU NVIDIA H100 SXM погодинно
Датацентровий GPU NVIDIA H100 SXM на архітектурі Hopper має 80 ГБ VRAM і споживання 700 Вт. Він забезпечує близько 53,5 TFLOPS стандартних обчислень із плаваючою комою та пропускну здатність пам'яті близько 2869 ГБ/с, а також підтримує CUDA compute capability 9.0. Орендуйте його на ONIE з оплатою щогодини, повним доступом через SSH та готовими шаблонами для PyTorch/CUDA, vLLM, Ollama і ComfyUI.
Характеристики
VRAM на кожен GPU
Архітектура
Обчислювальна здатність
Обчислення FP32
Пропускна здатність пам'яті
Ліміт потужності
Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.
Доступні конфігурації
Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.
Завантаження актуальних цін…
Для чого підходить H100 SXM
Інференс великих мовних моделей
Розгортайте потужні мовні моделі у продакшн, використовуючи 80 ГБ VRAM і близько 2869 ГБ/с пропускної здатності пам'яті через шаблони vLLM або Ollama.
Тонке налаштування моделей глибокого навчання
Навчайте та донавчайте нейронні мережі на архітектурі Hopper з CUDA compute capability 9.0 у попередньо налаштованих середовищах PyTorch/CUDA.
Пакетна обробка з високою пропускною здатністю
Запускайте ресурсомісткі завдання обробки даних і симуляцій, які виграють від близько 53,5 TFLOPS обчислювальної потужності у датацентровому форм-факторі 700 Вт.
Складні сценарії генеративних медіа
Виконуйте складні пайплайни ComfyUI та дифузійні моделі з великими розмірами батчів, які комфортно вміщуються в пул пам'яті 80 ГБ.
Чи підходить вам цей GPU?
Обирайте H100 SXM, якщо ваші навчальні або інференс-завдання потребують 80 ГБ високопродуктивної датацентрової пам'яті та можливостей архітектури Hopper. Для легкої розробки або невеликих моделей практичнішим вибором буде менша робоча станція чи споживчий GPU, а якщо одна інстанція не може вмістити всю модель у 80 ГБ VRAM, краще обрати новіший датацентровий GPU з більшим обсягом пам'яті.
Порівняти зі схожими GPU
| GPU | VRAM на кожен GPU | Архітектура | Обчислення FP32 | Від / годину | Детальніше |
|---|---|---|---|---|---|
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Детальніше |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Детальніше |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Детальніше |
Часті запитання
Чи підходить H100 SXM для донавчання та інференсу LLM?
Так, 80 ГБ VRAM і пропускна здатність пам'яті близько 2869 ГБ/с роблять його добре придатним як для обслуговування, так і для донавчання великих мовних моделей. Ви можете почати одразу на ONIE, використовуючи готові шаблони vLLM, Ollama або PyTorch/CUDA.
Чим варіант SXM відрізняється від датацентрових або робочих GPU з меншим енергоспоживанням?
H100 SXM працює з тепловим пакетом 700 Вт, що дозволяє йому утримувати вищу обчислювальну продуктивність і пропускну здатність пам'яті, ніж PCIe-варіанти датацентрових GPU або робочі карти. Якщо ваше навантаження не використовує близько 53,5 TFLOPS обчислень або 80 ГБ пам'яті, може бути достатньо меншого GPU.
Яку сумісність ПЗ забезпечує CUDA compute capability 9.0?
Compute capability 9.0 вказує на апаратну підтримку інструкцій та можливостей архітектури NVIDIA Hopper. Наші попередньо налаштовані шаблони PyTorch/CUDA готові до використання цього обладнання без ручного налаштування драйверів.
Як працюють оплата та доступ до інстанцій на ONIE?
Інстанції тарифікуються щогодини протягом терміну оренди. Після розгортання ви можете підключитися до свого середовища безпосередньо через SSH або працювати з попередньо встановленими інструментами, наприклад ComfyUI.
Орендуйте H100 SXM погодинно
Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.
Орендувати H100 SXM