Оренда GPU NVIDIA H100 NVL погодинно
NVIDIA H100 NVL це GPU-прискорювач для дата-центрів на архітектурі Hopper з 94 ГБ VRAM та обчислювальною здатністю 9.0. Він забезпечує близько 48.3 TFLOPS продуктивності з одинарною точністю та близько 3381 ГБ/с пропускної здатності пам'яті в межах теплового пакета 400 Вт. Орендуйте H100 NVL на ONIE з погодинною тарифікацією, доступом через SSH та готовими шаблонами для PyTorch/CUDA, vLLM, Ollama і ComfyUI.
Характеристики
VRAM на кожен GPU
Архітектура
Обчислювальна здатність
Обчислення FP32
Пропускна здатність пам'яті
Ліміт потужності
Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.
Доступні конфігурації
Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.
Завантаження актуальних цін…
Для чого підходить H100 NVL
Інференс великих мовних моделей
Розгортайте великі моделі за допомогою vLLM або Ollama, використовуючи 94 ГБ VRAM та близько 3381 ГБ/с пропускної здатності пам'яті для швидкої генерації токенів.
Донавчання моделей глибокого навчання
Навчайте та донавчайте нейронні мережі в PyTorch, використовуючи можливості архітектури Hopper та обчислювальну здатність 9.0.
Генерація зображень високої роздільності
Запускайте складні робочі процеси ComfyUI та великі дифузійні конвеєри повністю в пам'яті без вивантаження в системну RAM.
Наукові обчислення та моделювання
Виконуйте ресурсомісткі завдання дата-центрів, які виграють від близько 48.3 TFLOPS обчислювальної потужності з одинарною точністю.
Чи підходить вам цей GPU?
Обирайте H100 NVL, коли ваші робочі навантаження AI або обчислень потребують більше пам'яті, ніж надають стандартні GPU для дата-центрів, до 94 ГБ VRAM. Для легкого інференсу та розробки краще підійде робоча станція або споживчий GPU, а якщо ваші моделі перевищують 94 ГБ, потрібна конфігурація з кількома GPU або тариф з більшим обсягом пам'яті.
Порівняти зі схожими GPU
| GPU | VRAM на кожен GPU | Архітектура | Обчислення FP32 | Від / годину | Детальніше |
|---|---|---|---|---|---|
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Детальніше |
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | Детальніше |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Детальніше |
Часті запитання
Чи підходить H100 NVL для інференсу та донавчання LLM?
Так, завдяки 94 ГБ VRAM та близько 3381 ГБ/с пропускної здатності пам'яті він добре підходить для обслуговування та донавчання великих мовних моделей, які не вміщуються на менших GPU для дата-центрів.
Чим H100 NVL відрізняється від стандартних варіантів H100?
H100 NVL пропонує збільшений обсяг VRAM до 94 ГБ та енергопакет 400 Вт, що забезпечує додатковий запас пам'яті порівняно зі стандартними конфігураціями дата-центрів Hopper.
Які програмні шаблони доступні на ONIE для цього GPU?
Ви можете розгорнути H100 NVL з попередньо налаштованими шаблонами для PyTorch/CUDA, vLLM, Ollama та ComfyUI, які всі підтримують обчислювальну здатність 9.0.
Як працюють тарифікація та доступ під час оренди H100 NVL?
Інстанси на ONIE тарифікуються погодинно та надають прямий доступ через SSH, щоб ви могли одразу керувати своїм середовищем і робочими процесами.
Орендуйте H100 NVL погодинно
Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.
Орендувати H100 NVL