Vuokraa NVIDIA Q RTX 4000 -GPU tunneittain
NVIDIA Q RTX 4000 on Turing-arkkitehtuurin ammattikäyttöön tarkoitettu GPU, jonka voi vuokrata palvelussa ONIE aloitustason tekoälyyn ja grafiikkatöihin. Se tarjoaa 8 GB VRAM-muistia, noin 7,7 TFLOPS yksinkertaisen tarkkuuden laskentatehoa ja noin 353 GB/s muistikaistanleveyden 125 W tehoprofiilissa. Tukee CUDA-laskentakykyä 7.5, ja tämän instanssin voi ottaa käyttöön valmiilla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-malleilla.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin Q RTX 4000 soveltuu
Koodin prototyyppien tekeminen ja virheenkorjaus
Testaa ja validoi PyTorch/CUDA-putkia 8 GB:n työasemanäytönohjaimella ennen siirtymistä suurempaan laitteistoon.
Kompaktien mallien päättely
Aja pieniä kielimalleja Ollaman tai vLLM:n kautta, jotka mahtuvat mukavasti 8 GB:n VRAM-muistiin.
Perus kuvageneroinnin
Suorita tavallisia kuvageneroinnin työnkulkuja ComfyUI:ssa, jotka eivät ylitä 8 GB:n muistirajaa.
Työasemagrafiikka ja renderöinti
Hyödynnä Turing-arkkitehtuuria ja noin 353 GB/s muistikaistanleveyttä etärenderöinti- ja visualisointitehtäviin.
Onko tämä oikea GPU sinulle?
Valitse Q RTX 4000 kevyeen päättelyyn, renderöintiin ja koodikehitykseen, jotka mahtuvat 8 GB:n VRAM-muistiin ja laskentakykyyn 7.5. Valitse suurempi GPU, jossa on enemmän muistia ja uudempi arkkitehtuuri raskaaseen mallikoulutukseen tai laajamittaiseen päättelyyn, tai pienempi GPU perus näyttötehtäviin tai vähäiseen laskentaan.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko Q RTX 4000 LLM-päättelyyn ja hienosäätöön?
8 GB:n VRAM-muistilla ja noin 7,7 TFLOPS:n yksinkertaisen tarkkuuden suorituskyvyllä se soveltuu päättelyyn kompakteilla malleilla Ollaman tai vLLM:n kautta. Suuremmille malleille tai täydelle hienosäädölle kannattaa valita GPU, jossa on enemmän VRAM-muistia ja suurempi muistikaistanleveys kuin noin 353 GB/s.
Voinko käyttää tätä GPU:ta ComfyUI:hin ja kuvageneroinnin?
Kyllä, ONIE tarjoaa valmiin ComfyUI-mallin, joka toimii tällä Turing-työasemanäytönohjaimella. Se käsittelee tavallisia generointiputkia, jotka mahtuvat 8 GB:n muistiin, mutta suuremmat putket vaativat GPU:n, jossa on suurempi muistikokoonpano.
Miten yhdistän instanssiin ja mitkä ohjelmistot on esiasennettu?
Voit yhdistää käynnissä olevaan instanssiin suoraan SSH-yhteyden kautta. ONIE tarjoaa valmiiksi määritettyjä malleja, kuten PyTorch/CUDA, vLLM, Ollama ja ComfyUI, joten voit aloittaa työskentelyn heti.
Miten laskutus toimii Q RTX 4000 -GPU:lle palvelussa ONIE?
Instansseista veloitetaan tuntiperusteisesti sen ajan, jonka työasemanäytönohjain on aktiivinen. Tämä mahdollistaa kehitys- tai renderöintisessioiden ajamisen ja instanssin sulkemisen, kun työ on valmis.
Vuokraa Q RTX 4000 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa Q RTX 4000