GPU Cloud · NVIDIA · Ampere

Оренда GPU NVIDIA RTX 3090 Ti погодинно

NVIDIA RTX 3090 Ti — споживчий GPU на архітектурі Ampere з 24 GB VRAM і тепловою розрахунковою потужністю 450 W. Він забезпечує близько 36.4 TFLOPS обчислень з одинарною точністю та близько 865 GB/s пропускної здатності пам'яті, підтримує обчислювальну здатність CUDA 8.6. На ONIE ви можете орендувати це обладнання з погодинною оплатою, прямим доступом через SSH і попередньо налаштованими програмними шаблонами.

Характеристики

VRAM на кожен GPU

24 GB

Архітектура

NVIDIA Ampere

Обчислювальна здатність

8.6

Обчислення FP32

≈ 36.4 TFLOPS

Пропускна здатність пам'яті

≈ 865 GB/s

Ліміт потужності

450 W

Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.

Доступні конфігурації

Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.

Завантаження актуальних цін…

Для чого підходить RTX 3090 Ti

Локальний інференс LLM

Запускайте квантовані мовні моделі, що вміщуються в 24 GB VRAM, за допомогою готових шаблонів vLLM або Ollama.

Робочі процеси генеративних зображень

Виконуйте складні конвеєри дифузії та користувацькі графи вузлів за допомогою шаблону ComfyUI, використовуючи близько 865 GB/s пропускної здатності пам'яті.

Прототипування глибокого навчання

Розробляйте та тестуйте нейронні мережі в PyTorch з обчислювальною здатністю CUDA 8.6 та близько 36.4 TFLOPS обчислень з одинарною точністю.

Тонке налаштування LoRA

Навчайте легковагові адаптери та тонко налаштовуйте моделі для зору або тексту середнього розміру, не перевищуючи ліміт пам'яті 24 GB.

Чи підходить вам цей GPU?

RTX 3090 Ti є практичним вибором для розробників і дослідників, яким потрібні 24 GB VRAM на споживчій карті архітектури Ampere для інференсу або помірних завдань навчання. Оберіть GPU з меншим обсягом пам'яті, якщо ви запускаєте лише невеликі моделі, або перейдіть на робочу чи серверну GPU, якщо ваші завдання потребують більше ніж 24 GB VRAM або новіших архітектурних можливостей.

Порівняти зі схожими GPU

GPUVRAM на кожен GPUАрхітектураОбчислення FP32Від / годинуДетальніше
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—
RTX 309024 GBAmpere≈ 35.4 TFLOPS—Детальніше
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—Детальніше
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—Детальніше

Часті запитання

Чи підходить RTX 3090 Ti для інференсу LLM і генерації зображень?

Так, його 24 GB VRAM і близько 865 GB/s пропускної здатності пам'яті роблять його добре придатним для розміщення середніх або квантованих мовних моделей та для робочих процесів генерації зображень. Ви можете одразу запустити готові шаблони vLLM, Ollama або ComfyUI.

Як RTX 3090 Ti порівнюється з новішими споживчими або робочими GPU?

Як споживча GPU покоління Ampere з обчислювальною здатністю 8.6, він пропонує ту саму ємність VRAM 24 GB, що й новіші споживчі карти топового рівня, хоча новіші архітектури загалом забезпечують вищу обчислювальну продуктивність і енергоефективність, ніж його конструкція на 450 W. Якщо ваше навантаження строго обмежене пропускною здатністю пам'яті та вміщується в 24 GB, ця карта залишається надійним варіантом.

Як підключитися до мого екземпляра RTX 3090 Ti на ONIE?

Після запуску екземпляра ви можете підключитися безпосередньо через SSH для повного керування з командного рядка. Також можна розгорнути готові шаблони PyTorch з CUDA, vLLM, Ollama або ComfyUI.

Як працює оплата за оренду цього GPU?

Екземпляри на ONIE тарифікуються погодинно, тож ви платите лише за час, поки ваше середовище RTX 3090 Ti активне.

Орендуйте RTX 3090 Ti погодинно

Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.

Орендувати RTX 3090 Ti

Усі GPU →