Üüri NVIDIA Tesla P40 GPU-d tunnipõhiselt
NVIDIA Tesla P40 on Pascal-arhitektuuril põhinev andmekeskuse GPU, millel on 24 GB VRAM-i ja arvutusvõimekus 6.1. See pakub umbes 9,4 TFLOPS-i ühekordse täpsusega (single-precision) arvutusvõimsust ja umbes 257 GB/s mäluribalaiust 250 W soojuspiirangu piires. Platvormil ONIE saad selle GPU-d üürida tunnipõhise arveldusega, SSH-ligipääsuga ning eelkonfigureeritud mallidega PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks Tesla P40 sobib
Kvantiseeritud LLM-i järeldamine
Käita kohalikke keelemudeleid, mis vajavad kuni 24 GB mälu, kasutades valmismalle nagu Ollama või vLLM.
Pildigeneratsiooni töövood
Võõrusta ComfyUI töövooge, mis saavad kasu suurest VRAM-i mahust mitme kontrollpunkti ja ControlNeti laadimisel.
Pärandi CUDA arendus
Ehita, testi ja halda PyTorch/CUDA rakendusi, mis on suunatud Pascal-arhitektuurile ja arvutusvõimekusele 6.1.
Mälumahukas partiitöötlus
Käivita andmekeskuse töökoormusi, mis seavad esikohale suurte andmekogumite mahutamise 24 GB VRAM-i sisse toorest arvutuskiirusest rohkem.
Kas see GPU sobib sulle?
Vali Tesla P40, kui su peamine nõue on 24 GB VRAM-i mälu järeldamise või arendustöö jaoks, kus vanem Pascal-arvutus on piisav. Vali uuem või suurem GPU, kui vajad suuremat mäluribalaiust või kaasaegset tensorkiirendust mahukaks treeninguks, või väiksem GPU, kui su töökoormus kasutab vähe mälu.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| Tesla P40 | 24 GB | Pascal | ≈ 9.4 TFLOPS | — | |
| Tesla V100 | 16 GB | Volta | ≈ 12.5 TFLOPS | — | Üksikasjad |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Üksikasjad |
| GTX 1080 Ti | 11 GB | Pascal | ≈ 11 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas Tesla P40 sobib suurte keelemudelite käitamiseks?
24 GB VRAM-i maht võimaldab Tesla P40-l hoida mälus mõõdukalt suuri kvantiseeritud keelemudeleid, kasutades malle nagu Ollama. Kuna selle mäluribalaius on umbes 257 GB/s ja see kasutab vanemat Pascal-arhitektuuri, on žetoonide genereerimine aeglasem kui uuemate andmekeskuse GPU-dega.
Millist tarkvaraühilduvust peaksin arvestama arvutusvõimekusega 6.1?
Arvutusvõimekus 6.1 toetab standardseid ühekordse täpsusega töökoormusi umbes 9,4 TFLOPS-i kiirusel, mis sobib hästi üldiste PyTorch/CUDA mallidega. Mõned kaasaegsed masinõppe teegid või funktsioonid, mis nõuavad uuemaid riistvarainstruktsioone, ei pruugi Pascal-arhitektuuril töötada.
Kuidas ühenduda oma Tesla P40 instantsiga platvormil ONIE ja seda seadistada?
Saad instantsi juurutada, kasutades valmismalle PyTorch/CUDA, vLLM, Ollama või ComfyUI jaoks. Otsene SSH-ligipääs on kaasas, nii et saad hallata faile ja kohandatud keskkondi oma terminalist.
Kuidas toimib Tesla P40 üürimise arveldus?
Instantsid platvormil ONIE kasutavad tunnipõhist arveldust, mis võimaldab maksta ainult selle aja eest, mil andmekeskuse GPU instants on aktiivne.
Telli Tesla P40 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli Tesla P40