Īrējiet NVIDIA GTX 1660 Ti GPU pa stundām
NVIDIA GTX 1660 Ti ir patērētāju segmenta GPU, kas izveidots, izmantojot Turing arhitektūru, un aprīkots ar 6 GB VRAM un skaitļošanas iespēju 7.5. ONIE instancēs tas nodrošina aptuveni 5.3 TFLOPS vienas precizitātes skaitļošanas veiktspēju un aptuveni 234 GB/s atmiņas joslas platumu, darbojoties ar 120 W termiskās projektēšanas jaudu. Tā ir sākuma līmeņa izvēle vieglai GPU paātrināšanai un izstrādes uzdevumiem.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots GTX 1660 Ti
CUDA koda prototipēšana
Izstrādājiet, atkļūdojiet un testējiet CUDA kodola funkcijas ar skaitļošanas iespēju 7.5, izmantojot standarta PyTorch/CUDA veidnes, pirms pārejat uz jaudīgāku aparatūru.
Kompaktu valodas modeļu inferencēšana
Darbiniet maza mēroga, intensīvi kvantizētus valodas modeļus, kas ērti ietilpst 6 GB VRAM, izmantojot gatavas veidnes, piemēram, Ollama vai vLLM.
Vienkārša attēlu ģenerēšana
Izpildiet standarta izšķirtspējas difūzijas darbplūsmas ComfyUI vidē, izmantojot atmiņas optimizācijas, kas ļauj kopējo VRAM lietojumu noturēt zem 6 GB.
Klasiskā mašīnmācīšanās
Paātriniet tabulāru datu apstrādi, tradicionālos mašīnmācīšanās algoritmus un nelielu neironu tīklu apmācību ar aptuveni 5.3 TFLOPS skaitļošanas veiktspēju.
Vai tas ir piemērots GPU Jums?
Izvēlieties GTX 1660 Ti koda pārbaudei, apguvei un viegliem inferencēšanas uzdevumiem, kas ietilpst 6 GB patērētāju klases atmiņā. Modeļu precīzai pielāgošanai, lielu valodas modeļu apkalpošanai vai augstas izšķirtspējas satura ģenerēšanai izvēlieties GPU ar lielāku VRAM un lielāku joslas platumu. Mazāku GPU izvēlieties tikai tad, ja Jūsu darba slodzei nepieciešams minimāls grafikas vai skaitļošanas paātrinājums.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai GTX 1660 Ti ir piemērota LLM inferencēšanai vai precīzai pielāgošanai?
Ar 6 GB VRAM un aptuveni 234 GB/s atmiņas joslas platumu šis GPU ir piemērots tikai ļoti kompaktiem, kvantizētiem modeļiem, kurus inferencēšanai darbina ar Ollama vai vLLM. Parasti tas nav piemērots mūsdienu valodas modeļu precīzai pielāgošanai, kam nepieciešams GPU ar lielāku atmiņas ietilpību.
Vai šo GPU var izmantot attēlu ģenerēšanai ar ComfyUI?
Jā, ONIE nodrošina ComfyUI veidni, un 6 GB VRAM ir pietiekami vienkāršām attēlu ģenerēšanas darbplūsmām, ja ir iespējotas zema atmiņas patēriņa opcijas. Lielākām arhitektūrām vai sarežģītiem vadības tīkliem būs nepieciešams GPU ar lielāku VRAM.
Kādu programmatūras saderību šeit nodrošina Turing arhitektūra?
GTX 1660 Ti atbalsta CUDA skaitļošanas iespēju 7.5, tāpēc tas ir saderīgs ar standarta dziļās mācīšanās ietvariem, kas iekļauti mūsu PyTorch/CUDA veidnē. Kā GTX sērijas Turing patērētāju karte tā ir paredzēta standarta ēnošanai un skaitļošanai, nevis aparatūras paātrinātai staru izsekošanai.
Kā izveidot savienojumu ar instanci, un kā tiek aprēķināta maksa?
Varat tieši izveidot savienojumu ar savu instanci, izmantojot SSH, vai izmantot iepriekš konfigurētas tīmekļa saskarnes atkarībā no izvēlētās veidnes. ONIE piemēro stundas norēķinus, tāpēc maksājat tikai par laiku, kamēr instance ir aktīva.
Nomājiet GTX 1660 Ti pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt GTX 1660 Ti