Vuokraa NVIDIA Titan Xp -GPU tunneittain
NVIDIA Titan Xp on Pascal-arkkitehtuuriin perustuva kuluttajakäyttöinen GPU, jossa on 12 GB VRAM-muistia ja 160 W TDP. Palvelussa ONIE tämä kortti tarjoaa noin 11,7 TFLOPS yksitarkkuuksista laskentatehoa ja noin 410 GB/s muistin kaistanleveyttä. Se tukee compute capability 6.1 -versiota, ja sitä on saatavilla tuntilaskutuksella, SSH-yhteydellä ja valmiilla malleilla.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin Titan Xp soveltuu
PyTorch-kehitys ja prototyypit
Käytä PyTorch/CUDA-mallia koneoppimiskoodin kirjoittamiseen, testaamiseen ja virheenkorjaukseen 12 GB:n muistirajan sisällä.
Kompaktin kielimallin päättely
Aja pienet kielimallit, jotka mahtuvat 12 GB:n VRAM-muistiin, esikonfiguroitujen Ollama- tai vLLM-mallien avulla.
Tavalliset kuvantuottotyönkulut
Ota käyttöön ComfyUI perusdiffuusioputkille ja kuvasynteesitehtäville, jotka eivät ylitä 12 GB:n muistia.
Yleiset CUDA-laskentatehtävät
Suorita omia yksitarkkuuksisia laskentatöitä, jotka ovat yhteensopivia Pascal-arkkitehtuurin ja compute capability 6.1 -version kanssa.
Onko tämä oikea GPU sinulle?
Valitse Titan Xp budjettitietoiseen kehitykseen, vanhan CUDA-yhteensopivuuden testaukseen tai kevyeen päättelyyn, joka vaatii jopa 12 GB VRAM-muistia. Valitse uudempi tai suurempi GPU, jos työkuormasi vaatii moderneja tensoriytimiä tai enemmän muistia. Pienempi kuluttajakortti sopii, jos tarvitset vain minimaaliset näyttö- ja laskentaskriptit.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko NVIDIA Titan Xp LLM-päättelyyn ja hienosäätöön?
12 GB VRAM-muistilla ja Pascal-arkkitehtuurilla se pystyy päättelemään kompakteja malleja Ollaman tai vLLM:n avulla. Suuremmille malleille tai moderneille hienosäätötyönkuluille, jotka edellyttävät uudempia laskentaominaisuuksia, suositellaan GPU:ta, jossa on enemmän muistia ja uudempi arkkitehtuuri.
Mitkä ovat tämän instanssin laskenta- ja muistiominaisuudet?
Tässä kuluttajakäyttöisessä GPU:ssa on 12 GB VRAM-muistia, 160 W tehonkulutus ja compute capability 6.1. Infrastruktuuritoimittajan mittausten mukaan yksitarkkuuksinen suorituskyky on noin 11,7 TFLOPS ja muistin kaistanleveys noin 410 GB/s.
Miten yhdistän instanssiin ja mitä ohjelmistoja on saatavilla?
Voit yhdistää instanssiisi suoraan SSH-yhteyden kautta. ONIE tarjoaa myös valmiit mallit PyTorch/CUDA:lle, vLLM:lle, Ollamalle ja ComfyUI:lle, joiden avulla työkuorman voi aloittaa nopeasti.
Miten laskutus toimii Titan Xp:n osalta palvelussa ONIE?
Instanssit laskutetaan tunneittain. Maksat vain niiltä tunneilta, joina GPU-instanssisi on aktiivinen.
Vuokraa Titan Xp tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa Titan Xp