Vuokraa NVIDIA RTX 3080 -GPU tunneittain
NVIDIA RTX 3080 on Ampere-arkkitehtuurin kuluttajanäytönohjain, jossa on 10 Gt VRAM-muistia. Se tarjoaa noin 29,5 TFLOPS:n standardin liukulukulaskennan ja noin 656 Gt/s muistikaistanleveyden. Palvelussa ONIE voit ottaa tämän GPU:n käyttöön tuntiperusteisella laskutuksella, SSH-yhteydellä ja valmiilla malleilla.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin RTX 3080 soveltuu
Kevyt LLM-päättely
Aja kvantisoituja kielimalleja, jotka mahtuvat 10 Gt:n VRAM-muistiin, esikonfiguroiduilla Ollama- tai vLLM-malleilla.
Kuvageneroinnin työnkulut
Suorita diffuusioputkia ComfyUI:ssa hyödyntäen noin 656 Gt/s muistikaistanleveyttä tasaisen kuvantuoton saavuttamiseksi.
PyTorch-mallien prototyypitys
Kehitä ja testaa syväoppimiskoodia Ampere-näytönohjaimella, jonka laskentakyky on 8.6, ennen skaalaamista suuremmaksi.
CUDA-laskentatehtävät
Nopeuta omia työkuormia, jotka hyödyntävät noin 29,5 TFLOPS:n standardin liukulukusuorituskyvyn.
Onko tämä oikea GPU sinulle?
Valitse RTX 3080 prototyyppien kehittämiseen, kuvagenerointiin ja pienimuotoiseen päättelyyn, kun 10 Gt VRAM-muisti ja vahva Ampere-laskenta riittävät. Valitse näytönohjain, jossa on enemmän muistia, jos mallisi tai eräkokosi ylittävät 10 Gt, tai valitse kevyempi kuluttajakortti kevyisiin skripteihin, jotka eivät vaadi noin 29,5 TFLOPS:n laskentatehoa.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko RTX 3080 LLM-päättelyyn ja kuvagenerointiin?
Kyllä, sen 10 Gt VRAM-muisti ja noin 656 Gt/s muistikaistanleveys riittävät tavanomaiseen kuvagenerointiin ComfyUI:ssa sekä kvantisoituihin kielimalleihin Ollaman tai vLLM:n kautta. Suuremmat kvantisoimattomat mallit vaativat näytönohjaimen, jossa on suurempi muistikapasiteetti.
Mitä ohjelmistomalleja RTX 3080:lle on saatavilla palvelussa ONIE?
Voit käynnistää instansseja valmiilla malleilla PyTorch/CUDA:lle, vLLM:lle, Ollamalle ja ComfyUI:lle. Kortti tukee laskentakykyä 8.6, joten se on yhteensopiva laajasti nykyaikaisten koneoppimiskehysten kanssa.
Milloin kannattaa siirtyä RTX 3080:stä suurempaan näytönohjaimeen?
RTX 3080 tarjoaa vahvan kuluttajaluokan laskentatehon, noin 29,5 TFLOPS 380 W:n tehoalueella, mutta sen VRAM-muisti on rajoitettu 10 Gt:iin. Jos koulutuserät tai mallin painot aiheuttavat muistiloppuvirheitä (out-of-memory), sopiva valinta on työasema- tai datakeskusnäytönohjain, jossa on suurempi muistipuskuri.
Miten laskutus ja käyttöoikeudet toimivat palvelussa ONIE?
Instansseja laskutetaan tuntiperusteisesti niiden ollessa aktiivisia. Saat täyden SSH-käyttöoikeuden ympäristösi hallintaan sekä mahdolliset valitsemasi mallin tarjoamat web-käyttöliittymät.
Vuokraa RTX 3080 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa RTX 3080