Vuokraa NVIDIA RTX 3090 -GPU tunneittain
NVIDIA RTX 3090 on Ampere-arkkitehtuuriin perustuva kuluttajasegmentin GPU, jossa on 24 GB VRAM-muistia ja compute capability 8.6. Sen tavallisen yksittäistarkkuuden laskentateho on noin 35.4 TFLOPS, muistikaistanleveys noin 805 GB/s ja teholuokitus 350 W. Tätä GPU:ta voi vuokrata palvelusta ONIE tuntiveloituksella, täydellä SSH-käytöllä ja valmiilla mallipohjilla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-ympäristöihin.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin RTX 3090 soveltuu
Paikallisen kokoluokan LLM-päättely
Aja kvantisoituja tai keskikokoisia kielimalleja 24 GB:n VRAM-muistissa valmiiden vLLM- tai Ollama-mallipohjien avulla.
Kuvantuotannon työnkulut
Ota ComfyUI käyttöön korkearesoluutioisten kuvien tuottamiseen ja omien diffuusioputkien ajamiseen ilman muistirajoja, joihin tavalliset kuluttajakortit törmäävät.
Mallien hienosäätö ja koulutus
Hienosäädä neuroverkkoja PyTorch/CUDA-mallipohjalla, jotka mahtuvat 24 GB:n muistirajaan, ja hyödynnä noin 805 GB/s muistikaistanleveyttä.
Yleinen CUDA-laskenta
Aja compute capability 8.6 -versiolle käännettyjä omia työkuormia noin 35.4 TFLOPS:n yksittäistarkkuuden suorituskyvyllä.
Onko tämä oikea GPU sinulle?
RTX 3090 sopii kehittäjille ja tutkijoille, jotka tarvitsevat 24 GB VRAM-muistia muistia vaativiin tehtäviin kuluttajasegmentin Ampere-kortilla. Valitse pienempi GPU kevyeen päättelyyn, joka vaatii vähemmän muistia, tai siirry työasema- tai datakeskus-GPU:hun, jos mallisi ylittävät 24 GB VRAM-muistin tai vaativat uudemman arkkitehtuurin ominaisuuksia.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko RTX 3090 LLM-päättelyyn ja hienosäätöön?
Kyllä. Sen 24 GB VRAM-muisti ja noin 805 GB/s muistikaistanleveys mahdollistavat monien avoimien kielimallien ajamisen ja hienosäädön. Voit käynnistää vLLM-, Ollama- tai PyTorch/CUDA-mallipohjat suoraan palvelussa ONIE ja aloittaa työskentelyn heti.
Miten RTX 3090 vertautuu pienempiin tai suurempiin GPU:hin?
Sen 24 GB VRAM-muistin ansiosta RTX 3090 mahtuu huomattavasti enemmän mallipainoja ja suurempia eräkokoja kuin alemman tason kuluttajakortit. Jos työkuormasi vaatii yli 24 GB muistia tai yli noin 35.4 TFLOPS:n yksittäistarkkuuden laskentatehoa, kannattaa harkita uudempaa sukupolvea tai datakeskussegmentin GPU:ta.
Miten yhdistän RTX 3090 -instanssiini ja mitkä ohjelmistot siihen kuuluvat?
Voit yhdistää instanssiisi suoraan SSH-yhteydellä. ONIE tarjoaa valmiit mallipohjat PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-ohjelmistoille, joten ohjelmapinoa ei tarvitse määrittää käsin.
Miten laskutus toimii RTX 3090:lle palvelussa ONIE?
Instanssit laskutetaan tuntiveloituksella. Maksat vain ajasta, jonka GPU-instanssisi on aktiivinen.
Vuokraa RTX 3090 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa RTX 3090