Üüri NVIDIA RTX PRO 6000 WS GPU-d tunnipõhiselt
NVIDIA RTX PRO 6000 WS on Blackwelli arhitektuuriga tööjaama GPU, mida on ONIE-is nõudmisel pilveserverina võimalik üürida. Sellel on 96 GB VRAM-i ja 600 W energiaeelarve. See pakub umbes 119,0 TFLOPS standardset ujukomaarvutusjõudlust ja umbes 1403 GB/s mälu ribalaiust. Toetab compute capability 12.0, mis sobib kaasaegsete AI- ja arvutusülesannete jaoks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX PRO 6000 WS sobib
Suurte keelemudelite järeldamine
Käivitage suuri keelemudeleid ühes 96 GB mälupaagis, kasutades eelseadistatud vLLM- või Ollama malle.
Mudelite peenhäälestus ja treenimine
Treenige ja häälestage süvaõppemudeleid PyTorch/CUDA mallide abil, kasutades umbes 119,0 TFLOPS arvutusvõimsust.
Kõrge eraldusvõimega generatiivne meedia
Genereerige ComfyUI-s keerukaid pilt- ja videoväljundeid ilma mälu kitsaskohtadeta, kasutades 96 GB VRAM-i.
Tööjaama arvutused ja renderdamine
Käivitage mahukad tööjaama simulatsioonid ja renderdamise ülesanded, mida toetab umbes 1403 GB/s mälu ribalaius.
Kas see GPU sobib sulle?
Valige RTX PRO 6000 WS, kui teie töökoormused vajavad 96 GB VRAM-i ja Blackwelli arhitektuuri funktsioone, ilma et peaksite üle minema andmekeskuse klassi riistvarale. Kui teie mudelid vajavad vähem mälu, on säästlikum tarbija- või väiksem tööjaama GPU. Väga suuremahulised treeningu tööd võivad aga nõuda andmekeskuse klassi GPU-d, millel on suurem mälu ribalaius.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX PRO 6000 WS | 96 GB | Blackwell | ≈ 119 TFLOPS | — | |
| RTX PRO 6000 Max-Q | 96 GB | Blackwell | ≈ 119 TFLOPS | — | Üksikasjad |
| RTX PRO 6000 S | 96 GB | Blackwell | ≈ 93.6 TFLOPS | — | Üksikasjad |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX PRO 6000 WS sobib suurte keelemudelite järeldamiseks?
Jah. Tänu 96 GB VRAM-ile ja umbes 1403 GB/s mälu ribalaiusele saab see tööjaama GPU mällu mahutada suured mudelikaalud ja kontekstiaknad. Järeldusservereid saate kiiresti juurutada, kasutades pakutavaid vLLM- või Ollama malle.
Kuidas see GPU võrdleb tarbija- või andmekeskuse valikutega?
Blackwelli tööjaama GPU-na pakub RTX PRO 6000 WS 96 GB VRAM-i mahtu, mis ületab tavalised tarbijakaardid ja võimaldab suuremaid töökoormusi mahutada ühele kaardile. Andmekeskuse GPU-del võib olla suurem mälu ribalaius, väiksemad tööjaama- või tarbija-GPU-d on aga kergemate ülesannete jaoks piisavad.
Millised tarkvarakeskkonnad on selle GPU jaoks saadaval?
Instantsid toetavad compute capability 12.0 ja on kohe kasutatavate mallidega, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI. Täielik SSH-juurdepääs on kaasas, nii et saate oma tarkvarapaketti vajadusel kohandada.
Kuidas arveldamine ONIE-is toimib?
Üürid ONIE-is arveldatakse tunnipõhiselt, seega maksate ainult selle aja eest, mil instants on aktiivne. Ülesannete käivitamiseks saate ühenduda SSH kaudu ja instantsi lõpetada, kui olete valmis.
Telli RTX PRO 6000 WS tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX PRO 6000 WS