GPU Cloud · NVIDIA · Ampere

Magrenta ng NVIDIA RTX 3090 GPU kada oras

Ang NVIDIA RTX 3090 ay isang consumer GPU na may Ampere architecture, may 24 GB na VRAM at compute capability 8.6. Naghahatid ito ng humigit-kumulang 35.4 TFLOPS ng standard single-precision compute at humigit-kumulang 805 GB/s na memory bandwidth, na may power rating na 350 W. Maaari mong i-rent ang GPU na ito sa ONIE na may singil kada oras, buong SSH access, at handang template para sa PyTorch/CUDA, vLLM, Ollama, at ComfyUI.

Mga Specification

VRAM bawat GPU

24 GB

Architecture

NVIDIA Ampere

Compute capability

8.6

FP32 compute

≈ 35.4 TFLOPS

Memory bandwidth

≈ 805 GB/s

Power limit

350 W

Mga halagang iniulat ng infrastructure provider para sa mga makinang kasalukuyang nakalista; nag-iiba ang aktuwal na performance depende sa makina.

Mga available na configuration

Live na stock at presyo, patuloy na ina-update. Kukumpirmahin ang huling presyo bago ka mag-order.

Kinukuha ang live na presyo…

Para saan ang RTX 3090

LLM inference sa lokal na antas

Patakbuhin ang quantized o katamtamang laki na language model sa 24 GB na VRAM gamit ang pre-configured na vLLM o Ollama template.

Mga image generation workflow

I-deploy ang ComfyUI para makabuo ng high-resolution na mga larawan at magpatakbo ng custom na diffusion pipeline nang hindi naaabot ang memory limit ng mga karaniwang consumer card.

Fine-tuning at training ng model

Gamitin ang PyTorch/CUDA template para i-fine-tune ang mga neural network na kasya sa 24 GB na memory envelope at gamitin ang humigit-kumulang 805 GB/s na memory bandwidth.

General na CUDA compute

Patakbuhin ang custom na workload na naka-compile para sa compute capability 8.6 na may humigit-kumulang 35.4 TFLOPS ng single-precision performance.

Angkop ba sa iyo ang GPU na ito?

Angkop ang RTX 3090 para sa mga developer at researcher na nangangailangan ng 24 GB na VRAM para sa mga memory-intensive na gawain sa isang consumer-segment na Ampere card. Pumili ng mas maliit na GPU para sa magaan na inference na nangangailangan ng mas kaunting memory, o lumipat sa workstation o datacenter GPU kung lumalampas sa 24 GB na VRAM ang iyong mga model o kailangan ng mas bagong architecture feature.

Ikumpara sa mga katulad na GPU

GPUVRAM bawat GPUArchitectureFP32 computeMula / orasMga detalye
RTX 309024 GBAmpere≈ 35.4 TFLOPS—
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—Mga detalye
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—Mga detalye
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—Mga detalye

Mga madalas itanong

Angkop ba ang RTX 3090 para sa LLM inference at fine-tuning?

Oo, ang 24 GB na VRAM at humigit-kumulang 805 GB/s na memory bandwidth nito ay nagbibigay-daan dito na patakbuhin at i-fine-tune ang maraming open-weight language model. Maaari mong ilunsad agad ang vLLM, Ollama, o PyTorch/CUDA template sa ONIE para makapagsimula kaagad.

Paano ihahambing ang RTX 3090 sa mas maliit o mas malaking GPU?

Sa 24 GB na VRAM, mas maraming model weight at mas malalaking batch size ang kayang hawakan ng RTX 3090 kumpara sa mas mababang-antas na consumer card. Gayunpaman, kung ang workload mo ay nangangailangan ng higit sa 24 GB na memory o mas mataas sa humigit-kumulang 35.4 TFLOPS ng single-precision compute, isaalang-alang ang mas bagong henerasyon o datacenter-segment na GPU.

Paano ako kokonekta sa aking RTX 3090 instance at anong software ang kasama?

Maaari kang direktang kumonekta sa iyong instance sa pamamagitan ng SSH access. Nagbibigay ang ONIE ng handang gamitin na template para sa PyTorch/CUDA, vLLM, Ollama, at ComfyUI para hindi mo na kailangang i-configure nang manu-mano ang software stack.

Paano gumagana ang billing ng RTX 3090 sa ONIE?

Sinisingil ang mga instance kada oras. Magbabayad ka lamang para sa panahong aktibo ang iyong GPU instance.

Magrenta ng RTX 3090 kada oras

Gumawa ng account, pumili ng configuration at kumonekta sa pamamagitan ng SSH. Titigil ang billing kapag dinelete mo ang GPU.

Magrenta ng RTX 3090

Lahat ng GPU →