Üüri NVIDIA RTX 5090D GPU-d tunnipõhiselt
NVIDIA RTX 5090D on Blackwell arhitektuuril, mille compute capability on 12.0 ja VRAM 32 GB. ONIE-s pakub see umbes 107,6 FP32 TFLOPS-i ja umbes 1458 GB/s mäluribalaiust 575 W energiapiirangu piires. Saad selle kasutusele võtta tunnipõhise arveldusega, otsese SSH-juurdepääsuga ja eelkonfigureeritud mallidega tehisintellekti ja arvutusülesannete jaoks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 5090D sobib
Kohalik LLM-i järeldamine
Käivita keelemudeleid vLLM- või Ollama-mallidega, kasutades ära 32 GB VRAM-i mahtu ja umbes 1458 GB/s mäluribalaiust kiireks tokenite genereerimiseks.
Generatiivsed pildi-töövood
Paigalda ComfyUI, et käitada keerukaid difusioontorustikke ja kõrge eraldusvõimega pildisünteesi ilma mälu ammendamata.
Süvaõppe peenhäälestus
Kasuta PyTorch/CUDA-malli ja umbes 107,6 FP32 TFLOPS-i arvutusvõimsust, et peenhäälestada närvivõrke või treenida kohandatud adaptereid.
CUDA arendus ja testimine
Kompileeri ja testi Blackwell-arhitektuurile ning compute capability 12.0-le suunatud kohandatud kernele otsese SSH-juurdepääsu kaudu.
Kas see GPU sobib sulle?
Vali RTX 5090D, kui su töökoormused vajavad 32 GB VRAM-i ja suurt mäluribalaiust Blackwell-arhitektuuril ilma, et peaksid minema üle andmekeskuse riistvarale. Kergema järeldamise puhul vali väiksem tarbijaklassi GPU ressursikulu vähendamiseks või vali suurem tööjaama- või andmekeskuse GPU, kui su mudelid ületavad 32 GB mälu.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 5090D | 32 GB | Blackwell | ≈ 107.6 TFLOPS | — | |
| RTX 5090 | 32 GB | Blackwell | ≈ 107.6 TFLOPS | — | Üksikasjad |
| RTX 4090 | 24 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Üksikasjad |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 5090D sobib LLM-i järeldamiseks ja peenhäälestuseks?
Jah, selle 32 GB VRAM ja umbes 1458 GB/s mäluribalaius sobivad hästi mõõduka suurusega keelemudelite käitamiseks ja LoRA peenhäälestuse tööde jaoks. Töökoormuste puhul, mis vajavad rohkem kui 32 GB mälu, tuleks valida tööjaama- või andmekeskuse GPU suurema VRAM-i mahuga.
Milliseid tarkvaramalle on ONIE-is RTX 5090D jaoks saadaval?
Saad käivitada instantse valmis mallidega PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks. Kõigi instantside puhul on olemas ka täielik SSH-juurdepääs, et saaksid paigaldada oma sõltuvused compute capability 12.0 jaoks.
Kuidas RTX 5090D teiste tarbijaklassi GPU-dega võrreldes välja näeb?
Blackwell-põlvkonna tarbijaklassi kaardina 32 GB VRAM-i ja 575 W TDP-ga pakub see rohkem mälumahtu ja ribalaiust madamaid tarbijamudeleid. See täidab lõhe tavaliste tarbijakaartide ja suurema mahuga tööjaama-GPU-de vahel.
Kuidas toimib RTX 5090D instantside arveldus?
ONIE kasutab kõigi GPU-rendide puhul tunnipõhist arveldust. Saad instantsi käivitada vajadusel ja peatada selle, kui töö on lõppenud.
Telli RTX 5090D tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 5090D