Īrējiet NVIDIA RTX 2070 GPU pa stundām
NVIDIA RTX 2070 ir patērētāju segmenta GPU, kas izveidots, izmantojot Turing arhitektūru, ar skaitļošanas iespēju 7.5 un 8 GB VRAM. Pakalpojumā ONIE instances nodrošina aptuveni 7.7 TFLOPS vienas precizitātes skaitļošanas veiktspēju un aptuveni 370 GB/s atmiņas joslas platumu, patērējot 150 W. Šo karti varat izvietot ar stundas norēķiniem, pilnu SSH piekļuvi un gatavām veidnēm PyTorch/CUDA, vLLM, Ollama un ComfyUI.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots RTX 2070
Kompaktu valodas modeļu inferēšana
Palaidiet kvantizētus vai nelielus valodas modeļus, kas ietilpst 8 GB VRAM, izmantojot iepriekš konfigurētas Ollama vai vLLM veidnes.
Pamata attēlu ģenerēšana
Ģenerējiet standarta izšķirtspējas attēlus un izmēģiniet difūzijas darbplūsmas ComfyUI, nepārsniedzot 8 GB atmiņas bufera ierobežojumus.
PyTorch koda prototipu izstrāde
Izstrādājiet, atkļūdojiet un testējiet neironu tīklu apmācības skriptus PyTorch/CUDA vidē, pirms pārejat uz jaudīgāku aparatūru.
CUDA izstrāde iesācējiem
Kompilējiet un testējiet pielāgotus kodolus, kas paredzēti Turing arhitektūrai un skaitļošanas iespējai 7.5, izmantojot tiešu SSH piekļuvi.
Vai tas ir piemērots GPU Jums?
Izvēlieties RTX 2070 vieglai izstrādei, koda atkļūdošanai un maza mēroga inferēšanas uzdevumiem, kas ērti ietilpst 8 GB VRAM. Izvēlieties jaudīgāku GPU, ja modeļiem nepieciešama lielāka atmiņa vai veiktspēja, kas pārsniedz aptuveni 7.7 TFLOPS, vai arī mazāku GPU, ja nepieciešama tikai minimāla attēlošana vai pamata skaitļošanas testēšana.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai RTX 2070 ir piemērots LLM inferēšanai un precīzai pielāgošanai?
Ar 8 GB VRAM un aptuveni 370 GB/s atmiņas joslas platumu RTX 2070 var veikt nelielu, kvantizētu valodas modeļu inferēšanu, izmantojot Ollama vai vLLM. Lielākiem modeļiem vai pilna apjoma precīzās pielāgošanas darba slodzēm ieteicams GPU ar lielāku VRAM un jaunāku arhitektūru.
Vai šo GPU var izmantot attēlu ģenerēšanai ar ComfyUI?
Jā, ONIE nodrošina ComfyUI veidni, kas darbojas ar RTX 2070. Tās 8 GB VRAM ir pietiekami standarta ģenerēšanas darbplūsmām, taču sarežģītas darbplūsmas ar vairākiem vadības tīkliem vai palielināšanas posmiem būs ērtāk veikt ar karti, kurai ir lielāka atmiņas ietilpība.
Kā RTX 2070 salīdzināms ar citiem patērētāju GPU?
Kā Turing paaudzes patērētāju karte ar skaitļošanas iespēju 7.5 un 150 W enerģijas patēriņu tā neapstrādātas skaitļošanas veiktspējas un atmiņas ietilpības ziņā atpaliek no jaunākām arhitektūrām. Pāreja uz augstākas klases modeli nodrošina vairāk VRAM un augstāku TFLOPS veiktspēju intensīvākai apmācībai, savukārt zemākas klases modelis vēl vairāk ierobežo pieejamo atmiņu.
Kā pakalpojumā ONIE darbojas norēķini un piekļuve instancei?
Par aktīvām instancēm maksa tiek aprēķināta pa stundām. Varat izveidot tiešu savienojumu, izmantojot SSH, vai uzreiz palaist iepriekš konfigurētu vidi, tostarp PyTorch/CUDA, vLLM, Ollama un ComfyUI.
Nomājiet RTX 2070 pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt RTX 2070