GPU Cloud · NVIDIA · Turing

Īrējiet NVIDIA RTX 2060 GPU pa stundām

NVIDIA RTX 2060 GPU vietnē ONIE ir patērētājiem paredzēta Turing arhitektūras grafiskā karte ar 12 GB VRAM un 130 W TDP. Tā nodrošina aptuveni 6.5 TFLOPS vienas precizitātes aprēķinu veiktspēju un aptuveni 268 GB/s atmiņas joslas platumu, kā arī CUDA compute capability 7.5. Instancēs ir pieejama SSH piekļuve, stundas tarifs un iepriekš konfigurētas PyTorch/CUDA, ComfyUI, Ollama un vLLM veidnes.

Specifikācijas

VRAM katram GPU

12 GB

Arhitektūra

NVIDIA Turing

Skaitļošanas spēja

7.5

FP32 skaitļošana

≈ 6.5 TFLOPS

Atmiņas joslas platums

≈ 268 GB/s

Jaudas ierobežojums

130 W

Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.

Pieejamās konfigurācijas

Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.

Ielādē aktuālās cenas…

Kam ir piemērots RTX 2060

Attēlu ģenerēšana iesācējiem

Darbiniet ComfyUI darbplūsmas un standarta difūzijas modeļus, kas ērti ietilpst 12 GB VRAM.

Kompaktu valodas modeļu inferencēšana

Izvietojiet kvantizētus vai mazākus valodas modeļus ar Ollama vai vLLM viegliem teksta ģenerēšanas uzdevumiem.

Prototipu veidošana un atkļūdošana ar PyTorch

Rakstiet, testējiet un atkļūdojiet CUDA kodu Turing arhitektūras kartē, pirms pārejat uz lielākām instancēm.

Neliela mēroga modeļu apmācība

Apmāciet nelielus neironu tīklus un mašīnmācīšanās konveijerus, izmantojot PyTorch/CUDA veidni.

Vai tas ir piemērots GPU Jums?

Izvēlieties 12 GB RTX 2060, ja jūsu darba slodzei nepieciešams vairāk atmiņas, nekā piedāvā sākuma līmeņa patērētāju kartes, bet nav vajadzīga jaunāku arhitektūru lielākā skaitļošanas veiktspēja. Izvēlieties jaunākas paaudzes vai darbstacijām paredzētu GPU intensīvai apmācībai vai mazāku GPU, ja uzdevumam nepieciešams minimāls VRAM apjoms.

Salīdzināt ar līdzīgiem GPU

GPUVRAM katram GPUArhitektūraFP32 skaitļošanaNo / stundāSīkāk
RTX 206012 GBTuring≈ 6.5 TFLOPS—
GTX TITAN X12 GBMaxwell≈ 6.8 TFLOPS—Sīkāk
GTX 1070 Ti8 GBPascal≈ 7.4 TFLOPS—Sīkāk
RTX 2060S8 GBTuring≈ 7.5 TFLOPS—Sīkāk

Biežāk uzdotie jautājumi

Vai RTX 2060 ir piemērota LLM inferencēšanai?

Ar 12 GB VRAM un aptuveni 268 GB/s atmiņas joslas platumu tā var darbināt kompaktus un kvantizētus valodas modeļus ar Ollama vai vLLM. Lielākiem modeļiem vai augstas caurlaidspējas apkalpošanai būs nepieciešams GPU ar vairāk atmiņas un lielāku joslas platumu.

Kādu programmatūras saderību nodrošina Turing arhitektūra?

RTX 2060 atbalsta CUDA compute capability 7.5, un tajā darbojas standarta ietvari, kas iekļauti PyTorch/CUDA veidnē. Ņemiet vērā, ka tai nav aparatūras atbalsta dažiem jaunākiem datu tipiem, kas ieviesti vēlākās arhitektūrās.

Kā šī 12 GB RTX 2060 salīdzināma ar citiem patērētāju GPU?

12 GB atmiņa ļauj tajā ievietot lielākus modeļus un izmantot lielākus partijas izmērus nekā patērētāju variantiem ar mazāku atmiņu, taču tās aptuveni 6.5 TFLOPS skaitļošanas veiktspēja ir pieticīgāka nekā jaunākas paaudzes kartēm.

Kā vietnē ONIE darbojas norēķini un piekļuve instancei?

Maksa par instancēm tiek aprēķināta pa stundām. Varat izveidot tiešu savienojumu, izmantojot SSH, vai uzreiz palaist iepriekš konfigurētas PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnes.

Nomājiet RTX 2060 pa stundām

Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.

Nomāt RTX 2060

Visi GPU →