Üüri NVIDIA RTX 4090 GPU-d tunnipõhiselt
NVIDIA RTX 4090 on Ada Lovelace arhitektuuril põhinev tarbijasegmendi GPU, mida saab ONIE-is üürida. Sellel on 24 GB VRAM-i, umbes 81,4 TFLOPS standardset ujukomaarvutusvõimsust ja umbes 879 GB/s mäluribalaius. CUDA compute capability 8.9 ja 450 W energiaprofiiliga toimetab see nõudlike AI- ja graafikatöökoormustega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 4090 sobib
Lokaalne LLM-i järeldus
Käivitage kvantiseeritud suuri keelemudeleid eelkonfigureeritud vLLM- või Ollama mallide abil 24 GB VRAM-i mahu piires.
Pildi genereerimine ja difusioon
Rakendage ComfyUI töövoogusid kõrge eraldusvõimega pildisünteesiks Ada Lovelace arvutusvõimsuse toel.
Süvaõppe prototüüpimine
Treenige ja peenhäälestage keskmise suurusega närvivõrke PyTorch/CUDA malli abil, mille mäluribalaius on umbes 879 GB/s.
Graafika renderdamine ja simulatsioon
Käivitage kiiritusega renderdamist ja füüsikalisi simulatsioone, kasutades umbes 81,4 TFLOPS arvutusvõimsust.
Kas see GPU sobib sulle?
Valige RTX 4090, kui teie töökoormused vajavad tugevat Ada Lovelace arvutusvõimsust ja mahuvad mugavalt 24 GB mälusse. Kergemate järeldusarvutuste korral valige kulude vähendamiseks väiksem tarbijasegmendi GPU või võtke suurem töö- või andmekeskuse GPU, kui mudelite treenimiseks on vaja rohkem kui 24 GB VRAM-i.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 4090 | 24 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Üksikasjad |
| RTX 5090 | 32 GB | Blackwell | ≈ 107.6 TFLOPS | — | Üksikasjad |
| RTX 5090D | 32 GB | Blackwell | ≈ 107.6 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 4090 sobib LLM-i järelduste tegemiseks ja peenhäälestamiseks?
Jah, 24 GB VRAM-i ja umbes 879 GB/s mäluribalaius teevad sellest hea valiku väikeste ja keskmise suurusega keelemudelite teenindamiseks ning parameetritõhusaks peenhäälestamiseks. Kui teie mudeli kaalud ja kontekstiaken ületavad 24 GB, vajate suurema mälumahuga töö- või andmekeskuse GPU-d.
Kuidas ühenduda RTX 4090 instantsiga ja milline tarkvara on kaasas?
Saate instantsiga otse ühenduda SSH-ligipääsu kaudu. ONIE pakub valmis malle, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI, nii et saate CUDA compute capability 8.9 abil kohe tööle asuda.
Kuidas RTX 4090 võrdub töö- või andmekeskuse GPU-dega?
Tarbijasegmendi kaardina, mille termiline disainvõimsus on 450 W, pakub RTX 4090 suurt arvutustihedust umbes 81,4 TFLOPS juures. Samas on VRAM piiratud 24 GB-ga, kuna kõrgema klassi töö- ja andmekeskuse GPU-del on suuremad mälumahud suurte andmekogumite jaoks.
Kuidas toimub RTX 4090 üürimise arveldamine?
ONIE rakendab kõigi GPU-üüride puhul tunnipõhist arveldamist. Maksate ainult selle aja eest, mil teie instants on aktiivne.
Telli RTX 4090 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 4090