Üüri NVIDIA GTX 1660 Ti GPU-d tunnipõhiselt
NVIDIA GTX 1660 Ti on tarbijaklassi GPU, mis põhineb Turingi arhitektuuril ning millel on 6 GB VRAM ja arvutusvõimekuse versioon 7.5. ONIE instantsides pakub see ligikaudu 5.3 TFLOPS ühekordse täpsusega arvutusjõudlust ja ligikaudu 234 GB/s mälu läbilaskevõimet ning selle soojuslik projekteerimisvõimsus on 120 W. See on algtaseme valik kergeteks GPU-kiirenduse ja arendusülesanneteks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks GTX 1660 Ti sobib
CUDA koodi prototüüpimine
Arendage, siluge ja testige arvutusvõimekuse versioonile 7.5 suunatud CUDA tuumfunktsioone standardsete PyTorch/CUDA mallidega, enne kui lähete üle võimsamale riistvarale.
Kompaktsete keelemudelite inferents
Käivitage tugevalt kvanditud väikeseid keelemudeleid, mis mahuvad hõlpsasti 6 GB VRAM-i, kasutades valmismalle, nagu Ollama või vLLM.
Lihtne pildigenereerimine
Käivitage ComfyUI-s standarderaldusvõimega difusioonitöövooge, mille mäluoptimeerimised hoiavad VRAM-i kogukasutuse alla 6 GB piiri.
Klassikaline masinõpe
Kiirendage tabelandmete töötlemist, traditsioonilisi masinõppealgoritme ja väikeste närvivõrkude treenimist ligikaudu 5.3 TFLOPS arvutusjõudlusega.
Kas see GPU sobib sulle?
Valige GTX 1660 Ti koodi kontrollimiseks, õppimiseks ja kergeteks inferentsitöödeks, mis mahuvad 6 GB tarbijaklassi mällu. Mudelite peenhäälestamiseks, suurte keelemudelite teenindamiseks või kõrge eraldusvõimega meedia genereerimiseks valige suurema VRAM-i ja mälu läbilaskevõimega GPU. Väiksema GPU kasuks otsustage vaid siis, kui teie töökoormus vajab minimaalset graafika- või arvutuskiirendust.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| GTX 1660 Ti | 6 GB | Turing | ≈ 5.3 TFLOPS | — | |
| GTX 1660 S | 6 GB | Turing | ≈ 3.6 TFLOPS | — | Üksikasjad |
| GTX 1070 Ti | 8 GB | Pascal | ≈ 7.4 TFLOPS | — | Üksikasjad |
| RTX 2060S | 8 GB | Turing | ≈ 7.5 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas GTX 1660 Ti sobib LLM-i inferentsiks või peenhäälestamiseks?
6 GB VRAM-i ja ligikaudu 234 GB/s mälu läbilaskevõime tõttu piirdub selle GPU kasutus Ollama või vLLM-i kaudu tehtavas inferentsis väga kompaktsete kvanditud mudelitega. Üldjuhul ei sobi see tänapäevaste keelemudelite peenhäälestamiseks, kuna need vajavad suurema mälumahuga GPU-d.
Kas saan seda GPU-d kasutada ComfyUI-ga piltide genereerimiseks?
Jah, ONIE pakub ComfyUI malli ning 6 GB VRAM-i võimaldab kasutada lihtsaid pildigenereerimise töövooge, kui väikese mälukasutuse lipud on lubatud. Suuremad arhitektuurid või keerukad juhtvõrgud nõuavad üleminekut suurema VRAM-iga GPU-le.
Millist tarkvaraühilduvust Turingi arhitektuur siin pakub?
GTX 1660 Ti toetab CUDA arvutusvõimekuse versiooni 7.5, mistõttu ühildub see meie PyTorch/CUDA mallis sisalduvate standardsete süvaõpperaamistikega. GTX-seeria Turingi tarbijaklassi kaardina keskendub see tavapärasele varjutamisele ja arvutustele, mitte riistvaraliselt kiirendatud kiirtejälitusele.
Kuidas instantsiga ühendust luua ja kuidas arveldamine toimib?
Saate oma instantsiga otse SSH kaudu ühenduse luua või kasutada eelkonfigureeritud veebiliideseid olenevalt valitud mallist. ONIE kasutab tunnipõhist arveldamist, seega maksate ainult aja eest, mil teie instants on aktiivne.
Telli GTX 1660 Ti tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli GTX 1660 Ti