Оренда GPU NVIDIA H200 NVL погодинно
NVIDIA H200 NVL це графічний процесор для дата-центрів на архітектурі Hopper, створений для завдань, що потребують великого обсягу пам'яті. Він має 140 ГБ VRAM і пропускну здатність пам'яті близько 3884 ГБ/с, працює в межах 600 Вт, підтримує compute capability 9.0 і забезпечує близько 48.3 TFLOPS стандартної обчислювальної потужності з плаваючою комою. Ви можете розгорнути цей процесор на ONIE з погодинною оплатою, прямим доступом через SSH та готовими шаблонами.
Характеристики
VRAM на кожен GPU
Архітектура
Обчислювальна здатність
Обчислення FP32
Пропускна здатність пам'яті
Ліміт потужності
Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.
Доступні конфігурації
Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.
Завантаження актуальних цін…
Для чого підходить H200 NVL
Інференс великих мовних моделей (LLM)
Запускайте великі моделі повністю в пам'яті без шардингу, використовуючи ємність VRAM 140 ГБ і пропускну здатність пам'яті близько 3884 ГБ/с.
Донавчання та тренування моделей
Тренуйте та адаптуйте моделі глибокого навчання на базі Hopper з compute capability 9.0 і великим обсягом пам'яті GPU для великих розмірів батчів.
Високопродуктивна пакетна обробка
Ефективно обробляйте масивні набори даних і довгі контекстні вікна за допомогою попередньо налаштованих шаблонів PyTorch/CUDA, vLLM або Ollama.
Наукові обчислення та симуляції
Виконуйте складні симуляції для дата-центрів, що потребують близько 48.3 TFLOPS стандартної обчислювальної продуктивності з плаваючою комою та значного обсягу вбудованої пам'яті.
Чи підходить вам цей GPU?
Обирайте H200 NVL, коли основним обмеженням є ємність VRAM і пропускна здатність пам'яті, особливо для розміщення великих моделей на одній карті. Якщо ви працюєте з легшим інференсом, стандартною генерацією зображень або завданнями розробки, які не потребують 140 ГБ пам'яті, практичнішим вибором буде менша робоча станція або споживча GPU.
Порівняти зі схожими GPU
| GPU | VRAM на кожен GPU | Архітектура | Обчислення FP32 | Від / годину | Детальніше |
|---|---|---|---|---|---|
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Детальніше |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Детальніше |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Детальніше |
Часті запитання
Чому варто обрати H200 NVL замість стандартного GPU на Hopper?
H200 NVL пропонує 140 ГБ VRAM і пропускну здатність пам'яті близько 3884 ГБ/с, що перевищує ємність і пропускну здатність пам'яті карт попереднього покоління Hopper. Це дозволяє розміщувати більші моделі та контекстні вікна на одному GPU.
Чи підходить H200 NVL для обслуговування LLM з vLLM або Ollama?
Так, пул пам'яті 140 ГБ і висока пропускна здатність пам'яті роблять її добре придатною для обслуговування великих мовних моделей. ONIE надає готові шаблони для vLLM і Ollama, щоб ви могли швидко почати роботу.
Які програмні середовища та способи доступу доступні?
Кожен інстанс включає повний доступ через SSH для індивідуального налаштування. Також можна запустити інстанси з попередньо встановленими шаблонами, зокрема PyTorch/CUDA, vLLM, Ollama та ComfyUI.
Як працює оплата H200 NVL на ONIE?
Інстанси тарифікуються погодинно. Ви платите лише за час, протягом якого ваш інстанс H200 NVL активний.
Орендуйте H200 NVL погодинно
Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.
Орендувати H200 NVL