Vuokraa NVIDIA RTX 4080 -GPU tunneittain
NVIDIA RTX 4080 on Ada Lovelace -kuluttaja-GPU, jossa on 16 GB VRAM-muistia ja laskentakyky 8.9. Pilviympäristössämme se tarjoaa noin 48.6 TFLOPS yksitarkkuuslaskentatehoa ja noin 576 GB/s muistikaistanleveyttä, ja sen teholuokitus on 285 W. Voit ottaa sen käyttöön ONIE-palvelussa tuntihinnoittelulla, täydellä SSH-käyttöoikeudella ja valmiiksi määritetyillä mallipohjilla.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin RTX 4080 soveltuu
Kvantisoitu LLM-päättely
Aja pieniä ja keskikokoisia kielimalleja, jotka mahtuvat hyvin 16 GB VRAM-muistiin, valmiiden Ollama- tai vLLM-mallipohjien avulla.
Kuvan generoinnin työnkulut
Generoi korkearesoluutioisia kuvia ja aja omia diffuusioputkia valmiin ComfyUI-mallipohjan avulla.
Mallien prototyypit ja LoRA
Kehitä koodia ja aja kevyitä parametritehokkaan hienosäädön töitä PyTorch/CUDA-ympäristössä, jossa on Ada Lovelace -arkkitehtuurin tuki.
Eräajoittainen datankäsittely
Hyödynnä noin 48.6 TFLOPS yksitarkkuuslaskentatehoa ja noin 576 GB/s muistikaistanleveyttä rinnakkaiseen datan esikäsittelyyn ja päättelytehtäviin.
Onko tämä oikea GPU sinulle?
RTX 4080 sopii kehittäjille, jotka tarvitsevat Ada Lovelace -laskentakyvyn 8.9 ja 16 GB VRAM-muistia päättelyyn, diffuusiomalleihin ja prototyyppien kehittämiseen. Valitse pienempi kuluttaja-GPU yksinkertaisiin skripteihin, joilla on alhaisemmat muistitarpeet, tai siirry suuremman VRAM-kapasiteetin kuluttaja-, työasema- tai datakeskus-GPU:hun, jos mallisi painot ylittävät 16 GB.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko RTX 4080 LLM-päättelyyn ja hienosäätöön?
Kun VRAM-muistia on 16 GB ja muistikaistanleveyttä noin 576 GB/s, RTX 4080 pystyy päättelemään pienempiä tai kvantisoituja kielimalleja ja kevyitä LoRA-sovittimia. Suurten mallien täysi hienosäätö vaatii työasema- tai datakeskus-GPU:n, jossa on suurempi muistikapasiteetti.
Miten RTX 4080 vertautuu muihin Ada Lovelace -GPU:hin?
RTX 4080 kuuluu kuluttajasegmentin ylempään päähän, ja siinä on 16 GB VRAM-muistia sekä noin 48.6 TFLOPS yksitarkkuuslaskentatehoa. Jos työkuormasi ovat muistirajoitteisia tai vaativat suurempien kvantisoimattomien mallien mahtumista muistiin, harkitse siirtymistä GPU:hun, jossa on enemmän VRAM-muistia.
Mitä ohjelmistomallipohjia RTX 4080:lle on saatavilla ONIE-palvelussa?
Voit käynnistää instanssin valmiilla mallipohjilla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-ympäristöihin. Kaikissa instansseissa on täysi SSH-käyttöoikeus, joten voit asentaa omat riippuvuutesi laskentakyvyn 8.9 mukaisesti.
Miten RTX 4080 -instanssien laskutus toimii?
ONIE veloittaa kaikista RTX 4080 -vuokrauksista yksinkertaisesti tuntikohtaisesti. Maksat vain ajasta, jonka instanssisi on aktiivinen.
Vuokraa RTX 4080 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa RTX 4080