GPU Cloud · NVIDIA · Turing

Īrējiet NVIDIA RTX 2080 Ti GPU pa stundām

NVIDIA RTX 2080 Ti ir Turing arhitektūras patērētāju GPU, ko var nomāt pēc pieprasījuma vietnē ONIE. Tā piedāvā 11 GB VRAM, aptuveni 501 GB/s atmiņas joslas platumu un aptuveni 14.6 TFLOPS vienas precizitātes skaitļošanas veiktspēju. Ar 250 W TDP un 7.5 skaitļošanas iespēju tā ir piemērota viegliem mašīnmācīšanās, inferenču un grafikas uzdevumiem ar stundas norēķiniem.

Specifikācijas

VRAM katram GPU

11 GB

Arhitektūra

NVIDIA Turing

Skaitļošanas spēja

7.5

FP32 skaitļošana

≈ 14.6 TFLOPS

Atmiņas joslas platums

≈ 501 GB/s

Jaudas ierobežojums

250 W

Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.

Pieejamās konfigurācijas

Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.

Ielādē aktuālās cenas…

Kam ir piemērots RTX 2080 Ti

Kvantētu LLM inferenču izpilde

Izpildiet kompaktus vai kvantētus valodas modeļus, kas ietilpst 11 GB VRAM, izmantojot gatavas Ollama vai vLLM veidnes.

Attēlu ģenerēšanas darbplūsmas

Izvietojiet ComfyUI, lai ģenerētu attēlus un testētu difūzijas konveijerus, kas ērti darbojas 11 GB atmiņas ietvaros.

Padziļinātās mašīnmācīšanās prototipu izstrāde

Rakstiet, atkļūdojiet un testējiet PyTorch un CUDA kodu Turing GPU ar 7.5 skaitļošanas iespēju, pirms pārejat uz jaudīgāku aparatūru.

Datu pakešu apstrāde

Izmantojiet aptuveni 14.6 TFLOPS vienas precizitātes veiktspēju un aptuveni 501 GB/s atmiņas joslas platumu GPU paātrinātiem datu konveijeriem un renderēšanai.

Vai tas ir piemērots GPU Jums?

Izvēlieties RTX 2080 Ti izstrādei, mazāku modeļu inferenču izpildei un mēreniem apmācības uzdevumiem, kas ietilpst 11 GB VRAM. Liela mēroga apmācībai vai nekvantētiem modeļiem izvēlieties GPU ar lielāku atmiņu un jaunāku arhitektūru; vienkāršai atkļūdošanai derēs arī mazāka patērētāju karte.

Salīdzināt ar līdzīgiem GPU

GPUVRAM katram GPUArhitektūraFP32 skaitļošanaNo / stundāSīkāk
RTX 2080 Ti11 GBTuring≈ 14.6 TFLOPS—
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Sīkāk
RTX 306012 GBAmpere≈ 12 TFLOPS—Sīkāk
RTX 3060 Ti8 GBAmpere≈ 15.7 TFLOPS—Sīkāk

Biežāk uzdotie jautājumi

Vai RTX 2080 Ti ir piemērota LLM inferenču izpildei un attēlu ģenerēšanai?

Jā, tās 11 GB VRAM un aptuveni 501 GB/s atmiņas joslas platums ļauj darbināt kompaktus vai kvantētus valodas modeļus un standarta difūzijas modeļus. Lielākiem modeļiem, kas pārsniedz 11 GB, vai funkcijām, kurām nepieciešama jaunāka arhitektūra par 7.5 skaitļošanas iespēju, apsveriet iespēju nomāt GPU ar lielāku atmiņu.

Kādas programmatūras vides ir pieejamas, nomājot šo GPU?

Jums ir pilna SSH piekļuve instancei un varat palaist gatavas veidnes, tostarp PyTorch/CUDA, vLLM, Ollama un ComfyUI. Karte atbalsta CUDA uzdevumus, kas ir saderīgi ar 7.5 skaitļošanas iespēju.

Kā RTX 2080 Ti salīdzināma ar jaunākiem vai jaudīgākiem GPU?

Kā Turing paaudzes patērētāju karte ar 11 GB VRAM un aptuveni 14.6 TFLOPS vienas precizitātes skaitļošanas veiktspēju tā piedāvā vairāk atmiņas nekā sākuma līmeņa patērētāju GPU. Tomēr jaunāku paaudžu darbstaciju vai datu centru GPU nodrošina vairāk VRAM un lielāku atmiņas joslas platumu intensīviem apmācības uzdevumiem.

Kā tiek aprēķināta maksa par RTX 2080 Ti instancēm vietnē ONIE?

Par instancēm vietnē ONIE tiek iekasēta maksa par katru stundu, tāpēc maksājat tikai par laiku, kad jūsu GPU serveris ir aktīvs.

Nomājiet RTX 2080 Ti pa stundām

Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.

Nomāt RTX 2080 Ti

Visi GPU →