Оренда GPU NVIDIA H100 PCIE погодинно
NVIDIA H100 PCIE це дата-центровий GPU на архітектурі Hopper, створений для вимогливих навантажень глибокого навчання та наукових обчислень. Він пропонує 80 GB VRAM, близько 1760 GB/s пропускної здатності пам'яті та близько 41.0 TFLOPS стандартної обчислювальної потужності при енергоспоживанні 350 W. На ONIE ви можете розгорнути цей прискорювач із compute capability 9.0 з оплатою щогодини та повним доступом через SSH.
Характеристики
VRAM на кожен GPU
Архітектура
Обчислювальна здатність
Обчислення FP32
Пропускна здатність пам'яті
Ліміт потужності
Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.
Доступні конфігурації
Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.
Завантаження актуальних цін…
Для чого підходить H100 PCIE
Інференс великих мовних моделей
Обслуговуйте великі мовні моделі в пам'яті, використовуючи 80 GB VRAM та високу пропускну здатність пам'яті, а також попередньо налаштовані шаблони vLLM або Ollama.
Тонке налаштування та навчання моделей
Навчайте або тонко налаштовуйте глибокі нейронні мережі на архітектурі Hopper з готовими середовищами PyTorch/CUDA.
Пакетна генерація зображень
Запускайте високопродуктивні дифузійні пайплайни та складні робочі процеси ComfyUI, яким потрібен значний обсяг пам'яті.
Наука про дані та симуляції
Виконуйте обчислювально інтенсивні симуляції та обробку даних із близько 41.0 TFLOPS стандартної продуктивності з плаваючою комою та близько 1760 GB/s пропускної здатності пам'яті.
Чи підходить вам цей GPU?
Обирайте H100 PCIE, якщо ваші робочі навантаження потребують 80 GB VRAM, пропускної здатності пам'яті дата-центрового рівня та можливостей Hopper із compute capability 9.0. Для легшого інференсу або менших моделей економічнішою буде робоча станція чи споживчий GPU з меншим обсягом VRAM, а для надвисоких вимог до продуктивності може бути доцільнішим варіант на базі SXM.
Порівняти зі схожими GPU
| GPU | VRAM на кожен GPU | Архітектура | Обчислення FP32 | Від / годину | Детальніше |
|---|---|---|---|---|---|
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Детальніше |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Детальніше |
| RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | — | Детальніше |
Часті запитання
Чи підходить H100 PCIE для тонкого налаштування та інференсу LLM?
Так, обсяг 80 GB VRAM і близько 1760 GB/s пропускної здатності пам'яті роблять його добре придатним для розміщення та навчання великих моделей. Ви можете почати одразу, використовуючи попередньо налаштовані шаблони PyTorch/CUDA, vLLM або Ollama.
Чим H100 PCIE відрізняється від SXM або менших робочих GPU?
H100 PCIE працює з TDP 350 W і має нижче енергоспоживання та сумісність зі стандартним PCIe порівняно з потужнішими дата-центровими варіантами SXM. Порівняно з робочими станціями або споживчими картами він забезпечує значно більше VRAM, 80 GB, та вищу пропускну здатність пам'яті.
Яка програмна підтримка та compute capability має цей GPU?
Оскільки GPU побудований на архітектурі NVIDIA Hopper, H100 PCIE підтримує CUDA compute capability 9.0. Ви можете запускати інстанси з готовими шаблонами PyTorch/CUDA та ComfyUI або налаштувати власний стек через доступ по SSH.
Як працює оплата для інстансів H100 PCIE на ONIE?
Інстанси на ONIE оплачуються просто, щогодини, тож ви платите лише за час, протягом якого ваш GPU активний. Повний доступ через SSH включено до кожного розгортання.
Орендуйте H100 PCIE погодинно
Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.
Орендувати H100 PCIE