Üüri NVIDIA Titan Xp GPU-d tunnipõhiselt
NVIDIA Titan Xp on Pascal-arhitektuuriga tarbijatasemel GPU, millel on 12 GB VRAM-i ja 160 W TDP. ONIE platvormil pakub see kaart umbes 11,7 TFLOPS ühe täpsusega arvutusvõimsust ja umbes 410 GB/s mäluribalaiust. Kaart toetab arvutusvõimekuse versiooni 6.1 ning on saadaval tunnipõhise arveldusega, SSH-juurdepääsu ja valmismallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks Titan Xp sobib
PyTorchi arendus ja prototüüpimine
Kasutage PyTorch/CUDA malli masinõppe koodi kirjutamiseks, testimiseks ja silumiseks 12 GB mälupiiri piires.
Kompaktsete keelemudelite järeldamine
Käivitage väikesed keelemudelid, mis mahuvad 12 GB VRAM-i, kasutades eelseadistatud Ollama või vLLM malle.
Standardsed pildigenereerimise töövood
Juurutage ComfyUI põhiliste difusioonitorujuhtmete ja pildisünteesi ülesannete jaoks, mis ei ületa 12 GB mälu.
Üldised CUDA arvutusülesanded
Käivitage kohandatud ühe täpsusega arvutustöökoormused, mis ühilduvad Pascal-arhitektuuri ja arvutusvõimekuse versiooniga 6.1.
Kas see GPU sobib sulle?
Valige Titan Xp eelarvesõbralikuks arenduseks, pärandiga CUDA ühilduvuse testimiseks või kergeks järeldamiseks, mis vajab kuni 12 GB VRAM-i. Kui teie töökoormus nõuab kaasaegseid tensor-tuumasid või suuremat mälumahtu, valige uuem või suurem GPU. Minimaalsete kuvari- ja arvutusskriptide jaoks sobib paremini väiksem tarbijakaart.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| Titan Xp | 12 GB | Pascal | ≈ 11.7 TFLOPS | — | |
| RTX 3060 | 12 GB | Ampere | ≈ 12 TFLOPS | — | Üksikasjad |
| RTX 3060 laptop | 12 GB | Ampere | ≈ 12.9 TFLOPS | — | Üksikasjad |
| GTX 1080 Ti | 11 GB | Pascal | ≈ 11 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas NVIDIA Titan Xp sobib LLM-i järeldamiseks ja peenhäälestamiseks?
12 GB VRAM-i ja Pascal-arhitektuuriga saab see kaart hallata kompaktsete mudelite järeldamist Ollama või vLLM abil. Suuremate mudelite või kaasaegsete peenhäälestamise töövoogude puhul, mis sõltuvad uuematest arvutusvõimekustest, soovitatakse suurema mälu ja uuema arhitektuuriga GPU-d.
Millised on selle instantsi arvutus- ja mälunäitajad?
See tarbijatasemel GPU pakub 12 GB VRAM-i, 160 W toitepiiri ja arvutusvõimekuse versiooni 6.1. Infrapakkuja mõõtmiste järgi on ühe täpsusega jõudlus umbes 11,7 TFLOPS ja mäluribalaius umbes 410 GB/s.
Kuidas instantsiga ühendust luua ja milline tarkvara on saadaval?
Saate instantsiga otse ühenduda SSH-juurdepääsu kaudu. ONIE pakub ka valmismalle PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks, et saaksite oma töökoormuse kiiresti käivitada.
Kuidas toimub Titan Xp arveldus platvormil ONIE?
Instantse arveldatakse tunnipõhiselt. Maksate ainult nende tundide eest, mil teie GPU-instants on aktiivne.
Telli Titan Xp tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli Titan Xp