Vuokraa NVIDIA RTX 2070 -GPU tunneittain
NVIDIA RTX 2070 on Turing-arkkitehtuurilla on kuluttajasegmentin GPU, jonka compute capability on 7.5 ja VRAM-muisti 8 GB. ONIE-palvelussa instansseissa on noin 7,7 TFLOPS yksitarkkuuslaskentaa ja noin 370 GB/s muistikaistaa 150 W tehorajan sisällä. Voit ottaa tämän kortin käyttöön tuntiperusteisella laskutuksella, täydellä SSH-käyttöoikeudella ja valmiilla malleilla PyTorch/CUDA, vLLM, Ollama ja ComfyUI varten.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin RTX 2070 soveltuu
Kevyen kielimallin päättely
Aja kvantisoituja tai pieniä kielimalleja, jotka mahtuvat 8 GB:n VRAM-muistiin, esikonfiguroiduilla Ollama- tai vLLM-malleilla.
Perusmuotoinen kuvantuotanto
Luo vakioresoluution kuvia ja testaa diffuusiotyönkulkuja ComfyUI:ssa 8 GB:n muistipuskurin rajoissa.
PyTorch-koodin prototyyppaus
Kehitä, debuggaa ja testaa neuroverkkojen koulutusskriptejä PyTorch/CUDA-ympäristössä ennen siirtymistä suurempaan laitteistoon.
Perustason CUDA-kehitys
Käännä ja testaa Turing-arkkitehtuurille ja compute capability 7.5:lle kohdistettuja omia ytimiä suoran SSH-yhteyden kautta.
Onko tämä oikea GPU sinulle?
Valitse RTX 2070 kevyeen kehitykseen, koodin debuggaukseen ja pienimuotoisiin päättelytehtäviin, jotka mahtuvat mukavasti 8 GB:n VRAM-muistiin. Valitse suurempi GPU, jos mallisi tarvitsevat enemmän muistia tai suurempaa läpäisykykyä kuin noin 7,7 TFLOPS, tai valitse pienempi GPU vain minimaaliseen näytön käyttöön tai perustason laskentatestaukseen.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko RTX 2070 LLM-päättelyyn ja hienosäätöön?
Kahdeksalla gigatavulla VRAM-muistia ja noin 370 GB/s muistikaistalla RTX 2070 kestää pienten, kvantisoitujen kielimallien päättelyn Ollaman tai vLLM:n kautta. Suuremmille malleille tai täydelle hienosäädölle suositellaan GPU:ta, jossa on enemmän VRAM-muistia ja uudempi arkkitehtuuri.
Voinko käyttää tätä GPU:ta kuvien luontiin ComfyUI:lla?
Kyllä, ONIE tarjoaa ComfyUI-mallin, joka toimii RTX 2070:llä. Sen 8 GB:n VRAM-muisti riittää tavallisiin generointiputkiin, mutta monimutkaiset työnkulut, joissa on useita ohjausverkkoja tai skaalausvaiheita, hyötyvät suuremmasta muistikapasiteetista.
Miten RTX 2070 vertautuu muihin kuluttaja-GPU:ihin?
Turing-sukupolven kuluttajakorttina, jonka compute capability on 7.5 ja tehonkulutus 150 W, se jää uudempien arkkitehtuurien alapuolelle raakalaskennassa ja muistikapasiteetissa. Siirtyminen korkeamman tason malliin tuo enemmän VRAM-muistia ja suuremman TFLOPS-luvun raskaampaan koulutukseen, kun taas pienempään malliin siirtyminen vähentää muistivaraa entisestään.
Miten laskutus ja instanssien käyttö toimivat ONIE-palvelussa?
Instansseista veloitetaan tuntiperusteisesti niiden ollessa aktiivisia. Voit yhdistää suoraan SSH:n kautta tai käynnistää heti esikonfiguroituihin ympäristöihin, mukaan lukien PyTorch/CUDA, vLLM, Ollama ja ComfyUI.
Vuokraa RTX 2070 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa RTX 2070