Vuokraa NVIDIA GTX 1660 Ti -GPU tunneittain
NVIDIA GTX 1660 Ti on tegelikult tarbijasegmendi GPU, mis põhineb Turing-arhitektuuril ning millel on 6 GB VRAM-i ja arvutusvõimekus 7.5. ONIE-i instantsides pakub see umbes 5,3 TFLOPS ühekordse täpsusega arvutusvõimsust ja umbes 234 GB/s mälu ribalaiust, töötades samal ajal 120 W soojusvõimsusega. See on algtaseme valik kergeks GPU-kiirenduseks ja arendustöödeks.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin GTX 1660 Ti soveltuu
CUDA koodi prototüüpimine
Arendage, silumine ja testige CUDA kernelid, mis on suunatud arvutusvõimekusele 7.5, kasutades standardseid PyTorch/CUDA malle enne suuremale riistvarale üleminekut.
Kompaktse keelemudeli järeldamine
Käivitage tugevalt kvantiseeritud väikesemahulised keelemudelid, mis mahuvad mugavalt 6 GB VRAM-i piiresse, kasutades valmismalle nagu Ollama või vLLM.
Põhiline pildi genereerimine
Käivitage standardresolutsiooniga difusioonitöövoogusid ComfyUI-s, kus mälu optimeerimised hoiavad VRAM-i kogukasutuse alla 6 GB piiri.
Klassikaline masinõpe
Kiirendage tabelandmete töötlemist, traditsioonilisi masinõppe algoritme ja väikeste närvivõrkude treenimist umbes 5,3 TFLOPS arvutusvõimsusega.
Onko tämä oikea GPU sinulle?
Valige GTX 1660 Ti koodi kontrollimiseks, õppimiseks ja kergete järeldamistööde jaoks, mis mahuvad 6 GB tarbijaklassi mälusse. Mudelite peenhäälestamiseks, suurte keelemudelite teenindamiseks või kõrgresolutsioonilise meediasisu genereerimiseks valige GPU, millel on rohkem VRAM-i ja suurem ribalaius, või valige väiksem GPU ainult siis, kui teie töökoormus nõuab minimaalset graafilist või arvutuslikku kiirendust.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Kas GTX 1660 Ti sobib LLM-i järeldamiseks või peenhäälestamiseks?
Umbes 6 GB VRAM-i ja umbes 234 GB/s mälu ribalaiusega on see GPU piiratud väga kompaktsete, kvantiseeritud mudelite käitamisega järeldamiseks Ollama või vLLM kaudu. Üldiselt ei sobi see kaasaegsete keelemudelite peenhäälestamiseks, mis nõuavad suurema mälumahuga GPU-d.
Kas ma saan seda GPU-d kasutada pildi genereerimiseks ComfyUI-ga?
Jah, ONIE pakub ComfyUI malli ning 6 GB VRAM-i piisab põhiliste pildi genereerimise töövoogude käitamiseks madala mälukasutuse režiimi sisselülitamisel. Suuremad arhitektuurid või keerukad juhtvõrgustikud nõuavad üleminekut GPU-le, millel on rohkem VRAM-i.
Millist tarkvaraühilduvust Turing-arhitektuur siin pakub?
GTX 1660 Ti toetab CUDA arvutusvõimekust 7.5, mistõttu on see ühilduv standardsete süvaõppe raamistikega, mis sisalduvad meie PyTorch/CUDA mallis. GTX-seeria Turing tarbijakaardina keskendub see standardsele varjustamisele ja arvutamisele, mitte riistvaraliselt kiirendatud kiirjälgimisele.
Kuidas ma instantsiga ühendun ja kuidas arveldus toimib?
Saate instantsiga otse ühenduda SSH-juurdepääsu kaudu või kasutada eelkonfigureeritud veebiliideseid, sõltuvalt valitud mallist. ONIE kasutab tunnipõhist arveldust, seega maksate ainult selle aja eest, mil teie instants on aktiivne.
Vuokraa GTX 1660 Ti tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa GTX 1660 Ti