Оренда GPU NVIDIA CMP 170HX погодинно
NVIDIA CMP 170HX — це дата-центровий GPU на архітектурі Ampere з 64 GB VRAM і TDP 250 Вт. Він забезпечує близько 1516 GB/s пропускної здатності пам'яті та близько 12.1 TFLOPS обчислень single-precision при compute capability 8.0. На ONIE ви можете розгорнути цю карту з погодинною оплатою, повним доступом через SSH та готовими шаблонами для PyTorch/CUDA, vLLM, Ollama і ComfyUI.
Характеристики
VRAM на кожен GPU
Архітектура
Обчислювальна здатність
Обчислення FP32
Пропускна здатність пам'яті
Ліміт потужності
Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.
Доступні конфігурації
Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.
Завантаження актуальних цін…
Для чого підходить CMP 170HX
Інференс LLM, обмежений пам'яттю
Обслуговуйте великі мовні моделі через vLLM або Ollama, використовуючи 64 GB VRAM та близько 1516 GB/s пропускної здатності пам'яті.
Глибоке навчання з великим обсягом пам'яті
Запускайте робочі навантаження PyTorch/CUDA, які потребують значного обсягу пам'яті та compute capability 8.0, без розподілу моделей між пристроями.
Складні робочі процеси генерації зображень
Завантажуйте одночасно кілька великих чекпоінтів дифузійних моделей і ControlNet у ComfyUI в межах пулу пам'яті 64 GB.
Обробка даних і симуляції
Виконуйте ресурсоємні дата-центрові завдання, які виграють від високої пропускної здатності пам'яті, у межах енергоспоживання 250 Вт.
Чи підходить вам цей GPU?
Обирайте CMP 170HX, якщо ваше навантаження обмежується обсягом і пропускною здатністю пам'яті, а не сирою обчислювальною потужністю single-precision. Оберіть GPU з вищою обчислювальною продуктивністю, якщо вам потрібні швидші ітерації навчання, або меншу споживчу карту, якщо вашим моделям не потрібні 64 GB VRAM.
Порівняти зі схожими GPU
| GPU | VRAM на кожен GPU | Архітектура | Обчислення FP32 | Від / годину | Детальніше |
|---|---|---|---|---|---|
| CMP 170HX | 64 GB | Ampere | ≈ 12.1 TFLOPS | — | |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Детальніше |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Детальніше |
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Детальніше |
Часті запитання
Чи підходить CMP 170HX для інференсу LLM?
Так, 64 GB VRAM і близько 1516 GB/s пропускної здатності пам'яті роблять його добре придатним для завантаження та обслуговування великих мовних моделей за допомогою шаблонів vLLM і Ollama. Однак, оскільки він забезпечує близько 12.1 TFLOPS обчислень single-precision, обробка промптів буде повільнішою, ніж на дата-центрових GPU з вищою щільністю обчислень.
Як цей GPU порівнюється зі стандартними дата-центровими прискорювачами?
CMP 170HX пропонує великий буфер пам'яті 64 GB і високу пропускну здатність пам'яті, подібну до стандартних карт Ampere для дата-центрів, при TDP 250 Вт. Його основний компроміс — нижча обчислювальна продуктивність, близько 12.1 TFLOPS, що робить його доречнішим для завдань, обмежених пам'яттю, ніж для важких обчислювальних навантажень.
Які програмні середовища доступні для цього GPU?
Картка підтримує CUDA з compute capability 8.0 і може бути запущена на ONIE за допомогою готових шаблонів, зокрема PyTorch/CUDA, vLLM, Ollama і ComfyUI. Ви також отримуєте прямий доступ через SSH для встановлення власних бібліотек і керування середовищем.
Як працює оплата під час оренди CMP 170HX?
Інстанси на ONIE тарифікуються щогодини, тож ви платите лише за час, поки GPU активний.
Орендуйте CMP 170HX погодинно
Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.
Орендувати CMP 170HX