Üüri NVIDIA RTX 3090 GPU-d tunnipõhiselt
NVIDIA RTX 3090 on Ampere arhitektuuril põhinev tarbijaklassi GPU, mille mälu on 24 GB VRAM-i ja arvutusvõime 8.6. See pakub umbes 35,4 TFLOPS standardset ühetäpsusega arvutusvõimsust ja umbes 805 GB/s mälu ribalaiust 350 W nimivõimsusega. Seda GPU-d saate ONIE-is üürida tunnipõhise arveldusega, täieliku SSH-juurdepääsuga ning valmis mallidega PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 3090 sobib
Kohaliku mahuga LLM-i järeldamine
Käitage kvantiseeritud või keskmise suurusega keelemudeleid 24 GB VRAM-is, kasutades eelseadistatud vLLM- või Ollama malle.
Pildigenereerimise töövood
Paigaldage ComfyUI kõrge eraldusvõimega piltide genereerimiseks ja käitage kohandatud difusioonitorustikke ilma, et jõuaksite tavaliste tarbijakaartide mälupiirideni.
Mudelite peenhäälestus ja treenimine
Kasutage PyTorch/CUDA malli närvivõrkude peenhäälestamiseks, mis mahuvad 24 GB mälumahtu ja kasutavad ära umbes 805 GB/s mälu ribalaiust.
Üldine CUDA-arvutus
Käivitage kohandatud töökoormusi, mis on kompileeritud arvutusvõimele 8.6, umbes 35,4 TFLOPS ühetäpsusega jõudlusega.
Kas see GPU sobib sulle?
RTX 3090 sobib arendajatele ja teadlastele, kes vajavad 24 GB VRAM-i mälumahukate ülesannete jaoks Ampere-põlvkonna tarbijaklassi kaardil. Kergema mäluvajadusega järeldamiseks valige väiksem GPU või, kui teie mudelid ületavad 24 GB VRAM-i või vajavad uuema arhitektuuri võimalusi, valige töökohakaart või andmekeskuse GPU.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | — | |
| RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | — | Üksikasjad |
| RTX 4500Ada | 24 GB | Ada Lovelace | ≈ 38.2 TFLOPS | — | Üksikasjad |
| RTX PRO 4000 | 24 GB | Blackwell | ≈ 44.3 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 3090 sobib LLM-i järeldamiseks ja peenhäälestuseks?
Jah, 24 GB VRAM-i ja umbes 805 GB/s mälu ribalaiuse tõttu suudab see käitada ja peenhäälestada paljusid avaliku kaaluga keelemudeleid. Saate käivitada vLLM-, Ollama- või PyTorch/CUDA malli otse ONIE-is, et kohe tööd alustada.
Kuidas RTX 3090 väiksemate ja suuremate GPU-dega võrreldes välja näeb?
24 GB VRAM-iga mahutab RTX 3090 märgatavalt rohkem mudelikaale ja suuremaid partii suurusi kui madalama taseme tarbijakaardid. Kui teie töökoormus vajab aga rohkem kui 24 GB mälu või suuremat kui umbes 35,4 TFLOPS ühetäpsusega arvutusvõimsust, peaksite kaaluma uuemat põlvkonda või andmekeskuse klassi GPU-d.
Kuidas ühendun oma RTX 3090 instantsiga ja milline tarkvara on kaasas?
Saate instantsiga ühenduda otse SSH-juurdepääsu kaudu. ONIE pakub valmis malle PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks, nii et tarkvarapinu ei pea käsitsi seadistama.
Kuidas RTX 3090 arveldus ONIE-is toimib?
Instantse arvestatakse tunnipõhiselt. Maksate ainult selle aja eest, mil teie GPU-instants on aktiivne.
Telli RTX 3090 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 3090