Īrējiet NVIDIA RTX 2070S GPU pa stundām
NVIDIA RTX 2070S ir patērētāju segmenta GPU, kas veidots uz Turing arhitektūras un aprīkots ar 8 GB VRAM, kā arī 7.5 skaitļošanas iespēju. ONIE instancēs tas nodrošina aptuveni 8.8 TFLOPS standarta peldošā komata veiktspēju un aptuveni 366 GB/s atmiņas joslas platumu, patērējot 210 W. Varat to izvietot ar stundas norēķiniem, pilnu SSH piekļuvi un gatavām veidnēm, tostarp PyTorch/CUDA, vLLM, Ollama un ComfyUI.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots RTX 2070S
Kompakta LLM inferēšana
Palaidiet kvantizētus maza izmēra valodu modeļus, izmantojot Ollama vai vLLM veidnes, iekļaujoties 8 GB VRAM ietilpībā.
PyTorch prototipēšana un atkļūdošana
Izstrādājiet un testējiet dziļās mācīšanās kodu Turing GPU ar 7.5 skaitļošanas iespēju, pirms pārejat uz jaudīgāku aparatūru.
Vienkārša attēlu ģenerēšana
Ģenerējiet attēlus ar ComfyUI, izmantojot standarta difūzijas darbplūsmas, kas ērti iekļaujas 8 GB atmiņā.
GPU skaitļošanas slodzes
Izpildiet pielāgotas CUDA lietotnes, izmantojot aptuveni 8.8 TFLOPS vienas precizitātes skaitļošanas veiktspēju un aptuveni 366 GB/s atmiņas joslas platumu.
Vai tas ir piemērots GPU Jums?
Izvēlieties RTX 2070S izstrādes, atkļūdošanas un vienkāršas inferēšanas uzdevumiem, kas iekļaujas 8 GB VRAM. Lielu modeļu apmācībai pārejiet uz GPU ar lielāku atmiņu un augstāku skaitļošanas iespēju vai pamata skriptu testēšanai izvēlieties patērētāju segmenta karti ar mazāku enerģijas patēriņu.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai RTX 2070S ir piemērots LLM inferēšanai vai precīzai pielāgošanai?
Ar 8 GB VRAM un aptuveni 366 GB/s atmiņas joslas platumu RTX 2070S var inferēt nelielus kvantizētus valodu modeļus, izmantojot Ollama vai vLLM. Pilnai precīzai pielāgošanai vai lielāku modeļu darbināšanai nepieciešams GPU ar vairāk VRAM.
Vai varu izmantot šo GPU attēlu ģenerēšanai ar ComfyUI?
Jā, ONIE piedāvā gatavu ComfyUI veidni, kas darbojas ar RTX 2070S. Tās 8 GB VRAM atbalsta standarta difūzijas darbplūsmas, taču sarežģītākām darbplūsmām ar vairākiem kontroles tīkliem noderēs GPU ar lielāku atmiņu.
Kā Turing arhitektūra ietekmē programmatūras saderību?
RTX 2070S atbalsta CUDA 7.5 skaitļošanas iespēju un ir saderīgs ar standarta PyTorch/CUDA veidnēm. Tomēr slodzes, kurām nepieciešamas jaunākās, nākamo paaudžu arhitektūrās pieejamās funkcijas, jāizvieto uz jaunākas GPU arhitektūras.
Kā izveidot savienojumu un kā darbojas norēķini ONIE?
Par instancēm tiek iekasēta maksa par katru stundu, kamēr jūsu mašīna ir aktīva. Varat izveidot savienojumu tieši, izmantojot SSH, vai palaist iepriekš konfigurētas PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnes.
Nomājiet RTX 2070S pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt RTX 2070S