GPU Cloud · NVIDIA · Turing

Īrējiet NVIDIA GTX 1660 S GPU pa stundām

NVIDIA GTX 1660 S ir sākuma līmeņa patērētāju GPU, kas balstīts uz Turing arhitektūru un aprīkots ar 6 GB VRAM un 125 W enerģijas patēriņa limitu. Tas nodrošina aptuveni 3.6 TFLOPS vienas precizitātes skaitļošanas jaudu un aptuveni 277 GB/s atmiņas joslas platumu, un tā skaitļošanas iespēju līmenis ir 7.5. Nomājiet šo instanci vietnē ONIE ar norēķiniem par katru stundu, SSH piekļuvi un gatavām veidnēm PyTorch/CUDA, vLLM, Ollama un ComfyUI.

Specifikācijas

VRAM katram GPU

6 GB

Arhitektūra

NVIDIA Turing

Skaitļošanas spēja

7.5

FP32 skaitļošana

≈ 3.6 TFLOPS

Atmiņas joslas platums

≈ 277 GB/s

Jaudas ierobežojums

125 W

Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.

Pieejamās konfigurācijas

Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.

Ielādē aktuālās cenas…

Kam ir piemērots GTX 1660 S

Koda izstrāde un atkļūdošana

Pirms izvietošanas jaudīgākās skaitļošanas instancēs testējiet un validējiet PyTorch un CUDA konveijerus Turing arhitektūras kartē.

Mazu valodas modeļu inferēšana

Darbiniet kompaktus kvantizētus valodas modeļus, izmantojot Ollama vai vLLM, nepārsniedzot 6 GB VRAM limitu.

Vienkārša attēlu ģenerēšana

Izmantojiet ComfyUI standarta izšķirtspējas attēlu ģenerēšanas darbplūsmām, kas ērti iekļaujas 6 GB atmiņas limitā.

Vieglu modeļu apmācība

Apmāciet mazus neironu tīklus, klasiskos mašīnmācīšanās modeļus un veiciet pirmos soļus dziļās mācīšanās projektos.

Vai tas ir piemērots GPU Jums?

Izvēlieties GTX 1660 S budžetam draudzīgai izstrādei, koda testēšanai un viegliem inferēšanas uzdevumiem, kas ietilpst 6 GB VRAM. Ja nepieciešams precīzi pielāgot mūsdienīgus pamatmodeļus vai darbināt lielas nekvantizētas slodzes, izvēlieties GPU ar lielāku atmiņu un lielāku skaitļošanas veiktspēju, jo šis modelis jau ir kompakta sākuma līmeņa izvēle.

Salīdzināt ar līdzīgiem GPU

GPUVRAM katram GPUArhitektūraFP32 skaitļošanaNo / stundāSīkāk
GTX 1660 S6 GBTuring≈ 3.6 TFLOPS—
GTX 1660 Ti6 GBTuring≈ 5.3 TFLOPS—Sīkāk
GTX 1070 Ti8 GBPascal≈ 7.4 TFLOPS—Sīkāk
RTX 2060S8 GBTuring≈ 7.5 TFLOPS—Sīkāk

Biežāk uzdotie jautājumi

Vai GTX 1660 S ir piemērota LLM inferēšanai vai precīzai pielāgošanai?

Ar 6 GB VRAM un aptuveni 277 GB/s atmiņas joslas platumu tā ir piemērota tikai ļoti kompaktiem, izteikti kvantizētiem valodas modeļiem vienkāršai inferēšanai. Precīzai pielāgošanai vai lielāku modeļu darbināšanai izvēlieties GPU ar lielāku atmiņas ietilpību.

Vai šis Turing GPU atbalsta mūsdienīgu CUDA programmatūru?

Jā, GTX 1660 S atbalsta skaitļošanas iespēju līmeni 7.5, kas ir saderīgs ar standarta PyTorch/CUDA vidēm. Tomēr kā patērētāju GTX sērijas karte tā paredzēta standarta vienas precizitātes skaitļošanai ar aptuveni 3.6 TFLOPS veiktspēju, nevis specializētām datu centru funkcijām.

Vai varu izmantot GTX 1660 S attēlu ģenerēšanai ComfyUI?

Jā, vietnē ONIE varat izvietot gatavu ComfyUI veidni un ģenerēt standarta izšķirtspējas attēlus. Sarežģītām darbplūsmām ar vairākiem kontroles tīkliem vai lielākiem pamatmodeļiem būs nepieciešama karte ar vairāk nekā 6 GB VRAM.

Kā darbojas norēķini un piekļuve šai instancei?

ONIE piedāvā norēķinus par katru stundu, tāpēc maksājat tikai par laiku, kamēr instance ir aktīva. Varat izveidot savienojumu tieši, izmantojot SSH piekļuvi, vai palaist iepriekš konfigurētas veidnes, tostarp PyTorch/CUDA, vLLM, Ollama un ComfyUI.

Nomājiet GTX 1660 S pa stundām

Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.

Nomāt GTX 1660 S

Visi GPU →