Üüri NVIDIA RTX 3090 Ti GPU-d tunnipõhiselt
NVIDIA RTX 3090 Ti on Ampere arhitektuuriga tarbijatasemel GPU, millel on 24 GB VRAM-i ja 450 W termilise disaini võimsus. See pakub umbes 36,4 TFLOPS-i ühe täpsusega arvutusvõimsust ja umbes 865 GB/s mälu ribalaiust, toetades CUDA arvutusvõimekuse versiooni 8.6. Platvormil ONIE saate selle riistvara üürida tunnipõhise arveldusega, otsese SSH-juurdepääsuga ja eelkonfigureeritud tarkvaramallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 3090 Ti sobib
Kohalik LLM-i järeldusarvutus
Käitage kvantiseeritud keelemudeleid, mis mahuvad mugavalt 24 GB VRAM-i piiresse, kasutades valmis vLLM- või Ollama malle.
Generatiivsed pildi töövoogud
Käivitage keerukaid difusioontorustikke ja kohandatud sõlmede graafikuid ComfyUI malliga, kasutades umbes 865 GB/s mälu ribalaiust.
Süvaõppe prototüüpimine
Arendage ja testige närvivõrke PyTorchis, kasutades CUDA arvutusvõimekuse versiooni 8.6 ja umbes 36,4 TFLOPS-i ühe täpsusega arvutusvõimsust.
LoRA peenhäälestus
Treenige kergeid adaptereid ja peenhäälestage keskmise suurusega nägemis- või tekstimudeleid ilma 24 GB mälupiiri ületamata.
Kas see GPU sobib sulle?
RTX 3090 Ti on praktiline valik arendajatele ja teadlastele, kes vajavad järeldusarvutuseks või mõõdukateks treeningülesanneteks 24 GB VRAM-i tarbijatasemel Ampere kaardil. Kui käitate ainult väikeseid mudeleid, valige madalama mälumahuga GPU, või kui teie töökoormused vajavad rohkem kui 24 GB VRAM-i või uuemaid arhitektuurilisi võimalusi, valige töökohajaam- või andmekeskuse GPU.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | — | |
| RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | — | Üksikasjad |
| RTX 4500Ada | 24 GB | Ada Lovelace | ≈ 38.2 TFLOPS | — | Üksikasjad |
| RTX PRO 4000 | 24 GB | Blackwell | ≈ 44.3 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 3090 Ti sobib LLM-i järeldusarvutuseks ja pildi genereerimiseks?
Jah, selle 24 GB VRAM-i ja umbes 865 GB/s mälu ribalaius sobivad hästi keskmise suurusega või kvantiseeritud keelemudelite hostimiseks ning pildi genereerimise töövoogude käitamiseks. Saate kohe alustamiseks käivitada eelkonfigureeritud vLLM-, Ollama- või ComfyUI mallid.
Kuidas RTX 3090 Ti võrdleb uuemate tarbija- või töökohajaama GPU-dega?
Ampere-põlvkonna tarbijatasemel GPU-na, mille arvutusvõimekuse versioon on 8.6, pakub see sama 24 GB VRAM-i mahtu nagu uuemad kõrgetasemelised tarbijakaardid, kuigi uuemad arhitektuurid pakuvad üldiselt suuremat arvutusläbilaskevõimet ja energiatõhusust kui selle 450 W disain. Kui teie töökoormus on range mälupiiranguga ja mahub 24 GB piiresse, on see endiselt võimekas valik.
Kuidas ühendun oma RTX 3090 Ti instantsiga platvormil ONIE?
Kui teie instants töötab, saate otse SSH kaudu ühenduda täieliku käsurea juhtimiseks. Samuti saate paigaldada valmis malle PyTorchi CUDA-ga, vLLM-i, Ollama või ComfyUI jaoks.
Kuidas toimib selle GPU üürimise arveldus?
Instantsid platvormil ONIE kasutavad tunnipõhist arveldust, mis võimaldab maksta ainult selle aja eest, mil teie RTX 3090 Ti keskkond on aktiivne.
Telli RTX 3090 Ti tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 3090 Ti