Üüri NVIDIA Tesla V100 GPU-d tunnipõhiselt
NVIDIA Tesla V100 on Volta arhitektuuriga andmekeskuse GPU, millel on 16 GB suure ribalaiusega VRAM-i ja 300 W soojuslik disainivõimsus (TDP). See pakub umbes 12,5 TFLOPS ühekordse täpsusega arvutusvõimsust ja umbes 780 GB/s mälu ribalaiust, mistõttu on see usaldusväärne valik mälumahukateks teaduslikeks arvutusteks ja süvaõppe ülesanneteks. Platvormil ONIE saate Tesla V100 juurutada tunnipõhise arveldusega, täieliku SSH-juurdepääsu ja eelseadistatud mallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks Tesla V100 sobib
Kompaktne LLM-i järeldusarvutus
Serveerige kvantiseeritud või väiksemaid keelemudeleid Ollama või vLLM mallide abil, kasutades ära umbes 780 GB/s mälu ribalaiust.
Süvaõppe prototüüpimine
Treenige ja valideerige närvivõrgu arhitektuure PyTorchis 16 GB VRAM-i ja arvutusvõime 7.0 toel.
Pildigeneratsiooni töövood
Käivitage difusioonitorustikke ja kohandatud genereerimisgraafikuid eelinstalleeritud ComfyUI mallide kaudu.
Teaduslik simulatsioon ja arvutused
Käivitage mäluribalaiusest sõltuvaid andmekeskuse töökoormusi, mis saavad kasu Volta arhitektuurist ja umbes 12,5 TFLOPS ühekordse täpsuse jõudlusest.
Kas see GPU sobib sulle?
16 GB Tesla V100 sobib teadlastele ja arendajatele, kes vajavad väikeste ja keskmise suurusega mudelite ning teaduslike töökoormuste jaoks suurt mäluribalaiust, ilma et peaksid maksma uuema andmekeskuse riistvara eest. Lihtsamaks arenduseks, mis vajab vähem mälu, valige väiksem tarbija-GPU. Kui teie mudelid ületavad 16 GB või vajavad uuema põlvkonna arhitektuuri funktsioone, mis lähevad arvutusvõime 7.0 kaugemale, valige uuema põlvkonna GPU suurema VRAM-iga.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| Tesla V100 | 16 GB | Volta | ≈ 12.5 TFLOPS | — | |
| RTX 3060 laptop | 12 GB | Ampere | ≈ 12.9 TFLOPS | — | Üksikasjad |
| RTX 3060 | 12 GB | Ampere | ≈ 12 TFLOPS | — | Üksikasjad |
| Titan Xp | 12 GB | Pascal | ≈ 11.7 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas 16 GB Tesla V100 sobib LLM-i järeldusarvutuseks ja peenhäälestuseks?
16 GB VRAM ja umbes 780 GB/s mälu ribalaius muudavad Tesla V100 sobivaks väiksemate või kvantiseeritud keelemudelite järeldusarvutuseks ning parameetritõhusaks peenhäälestuseks. Suuremate mudelite puhul, mis ei mahu 16 GB mällu, tuleks valida suurema VRAM-i mahuga GPU.
Milliseid tarkvaramalle ja ühendusmeetodeid on platvormil ONIE saadaval?
Iga Tesla V100 instants sisaldab otsest SSH-juurdepääsu kohandatud seadistamiseks ja käsurea töövoogudeks. Samuti saate käivitada valmismalle, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI, et kohe tööd alustada.
Kuidas mõjutab Volta arhitektuur raamistike ühilduvust?
Tesla V100 toetab CUDA arvutusvõimet 7.0, mis ühildub standardsete süvaõppe raamistikega nagu PyTorch. Töökoormused, mis nõuavad selgesõnaliselt uuemate arvutusvõimete funktsioone, vajavad siiski uuemat GPU arhitektuuri.
Kuidas toimub Tesla V100 rentimise arveldus?
ONIE kasutab kõigi Tesla V100 rentimiste puhul lihtsat tunnipõhist arveldust. Maksate ainult selle aja eest, mil teie instants on aktiivne, mis võimaldab käivitada katseid või partiitöid ning sulgeda serveri, kui olete lõpetanud.
Telli Tesla V100 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli Tesla V100