GPU Cloud · NVIDIA · Ampere

Оренда GPU NVIDIA RTX 3080 Ti погодинно

NVIDIA RTX 3080 Ti — це споживчий GPU на архітектурі Ampere з 12 GB VRAM і TDP 350 Вт. На ONIE він забезпечує близько 35.1 TFLOPS стандартних обчислень з плаваючою комою та пропускну здатність пам'яті близько 787 GB/s. Завдяки CUDA compute capability 8.6 цей GPU підходить для проміжних робочих навантажень машинного навчання, інференсу та творчого рендерингу.

Характеристики

VRAM на кожен GPU

12 GB

Архітектура

NVIDIA Ampere

Обчислювальна здатність

8.6

Обчислення FP32

≈ 35.1 TFLOPS

Пропускна здатність пам'яті

≈ 787 GB/s

Ліміт потужності

350 W

Значення, надані постачальником інфраструктури для машин, що наразі представлені; реальна продуктивність залежить від конкретної машини.

Доступні конфігурації

Актуальна наявність і ціни, оновлюються постійно. Остаточну ціну буде підтверджено до оформлення замовлення.

Завантаження актуальних цін…

Для чого підходить RTX 3080 Ti

Інференс квантованих LLM

Запускайте компактні та квантовані великі мовні моделі в межах бюджету 12 GB VRAM, використовуючи готові шаблони, як-от Ollama або vLLM.

Генерація зображень у ComfyUI

Генеруйте зображення та тестуйте конвеєри дифузійних моделей за допомогою шаблону ComfyUI, використовуючи близько 787 GB/s пропускної здатності пам'яті для обробки промптів.

Прототипування моделей PyTorch

Розробляйте, налагоджуйте та навчайте невеликі та середні нейронні мережі у PyTorch і CUDA на архітектурі Ampere з compute capability 8.6.

GPU-прискорений рендеринг

Використовуйте близько 35.1 TFLOPS обчислювальної потужності для рендерингу сцен і запікання текстур, що вміщуються в 12 GB пам'яті.

Чи підходить вам цей GPU?

RTX 3080 Ti підходить розробникам і творцям, яким потрібна висока обчислювальна потужність Ampere для робочих навантажень, що комфортно вміщуються в 12 GB VRAM. Оберіть менший споживчий GPU для базових скриптів або легкого інференсу, або перейдіть на GPU з більшим обсягом VRAM, якщо ви налаштовуєте великі моделі чи завантажуєте неквантовані ваги.

Порівняти зі схожими GPU

GPUVRAM на кожен GPUАрхітектураОбчислення FP32Від / годинуДетальніше
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—Детальніше
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—Детальніше
RTX 308010 GBAmpere≈ 29.5 TFLOPS—Детальніше

Часті запитання

Чи підходить RTX 3080 Ti для інференсу та тонкого налаштування LLM?

Завдяки 12 GB VRAM і близько 787 GB/s пропускної здатності пам'яті він добре підходить для запуску менших або квантованих мовних моделей через Ollama або vLLM. Для повного тонкого налаштування або запуску більших неквантованих моделей рекомендується GPU з більшим обсягом VRAM.

Як RTX 3080 Ti порівнюється з іншими споживчими GPU Ampere?

RTX 3080 Ti розташовується між стандартною RTX 3080 та споживчими картами з більшим обсягом пам'яті в лінійці Ampere, пропонуючи 12 GB VRAM і близько 35.1 TFLOPS обчислювальної потужності. Якщо ваше навантаження обмежене обчисленнями та вміщується в 12 GB, він забезпечує високу продуктивність без переходу на вищий рівень пам'яті.

Як підключитися до інстансу RTX 3080 Ti на ONIE?

Ви можете підключитися напряму через SSH після запуску інстансу. ONIE також надає готові шаблони для PyTorch/CUDA, vLLM, Ollama та ComfyUI, щоб ви могли одразу почати роботу.

Як працює тарифікація для цього GPU?

Інстанси на ONIE тарифікуються погодинно. Оплачується лише час, протягом якого інстанс RTX 3080 Ti активний.

Орендуйте RTX 3080 Ti погодинно

Створіть обліковий запис, оберіть конфігурацію та підключіться через SSH. Оплата припиняється після видалення GPU.

Орендувати RTX 3080 Ti

Усі GPU →