Üüri NVIDIA H100 NVL GPU-d tunnipõhiselt
NVIDIA H100 NVL on Hopperi arhitektuuril põhinev andmekeskuse GPU, millel on 94 GB VRAM-i ja arvutusvõime 9.0. See pakub umbes 48.3 TFLOPS ühe täpsusega arvutusvõimsust ja umbes 3381 GB/s mälu läbilaskevõimet 400 W soojusvõimsuse piires. Rentige H100 NVL platvormil ONIE tunnipõhise arvelduse, SSH-juurdepääsu ning PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks valmis mallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks H100 NVL sobib
Suurte keelemudelite päringute töötlemine
Võtke vLLM-i või Ollama abil kasutusele suuremahulised keelemudelid. 94 GB VRAM-i ja umbes 3381 GB/s mälu läbilaskevõimet võimaldavad token'ite kiiret genereerimist.
Süvaõppemudelite peenhäälestamine
Treenige ja peenhäälestage PyTorchis närvivõrke, kasutades Hopperi arhitektuuri võimalusi ja arvutusvõimet 9.0.
Kõrge eraldusvõimega piltide genereerimine
Käivitage keerukaid ComfyUI töövooge ja suuri difusioonimudelite töötlusahelaid mälus, ilma et peaksite andmeid süsteemi RAM-i tõstma.
Teadusarvutused ja simulatsioonid
Käivitage mälumahukaid andmekeskuse töökoormusi, mis saavad kasu umbes 48.3 TFLOPS ühe täpsusega arvutusvõimsusest.
Kas see GPU sobib sulle?
Valige H100 NVL, kui teie AI- või arvutustöökoormus vajab rohkem mälu, kui tavalised andmekeskuse GPU-d pakuvad — kuni 94 GB VRAM-i. Kergekaaluliseks päringute töötlemiseks ja arenduseks sobib paremini väiksem tööjaama- või tavakasutaja GPU. Kui teie mudelid vajavad rohkem kui 94 GB, on tarvis mitme GPU-ga lahendust või suurema mälumahuga varianti.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Üksikasjad |
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | Üksikasjad |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas H100 NVL sobib LLM-i päringute töötlemiseks ja peenhäälestamiseks?
Jah. 94 GB VRAM-i ja umbes 3381 GB/s mälu läbilaskevõimet teevad selle sobivaks selliste suurte keelemudelite käitamiseks ja peenhäälestamiseks, mis väiksemate andmekeskuse GPU-de mällu ei mahu.
Kuidas erineb H100 NVL tavalistest H100 variantidest?
H100 NVL pakub 94 GB VRAM-i ja töötab 400 W võimsuspiiri juures, jättes tavaliste Hopperi arhitektuuril põhinevate andmekeskuse konfiguratsioonidega võrreldes rohkem mäluruumi.
Millised tarkvaramallid on selle GPU jaoks platvormil ONIE saadaval?
Saate H100 NVL-i kasutusele võtta PyTorch/CUDA, vLLM-i, Ollama ja ComfyUI eelseadistatud mallidega. Kõik need toetavad arvutusvõimet 9.0.
Kuidas toimivad arveldus ja juurdepääs H100 NVL-i rentimisel?
Platvormi ONIE eksemplaride eest tasutakse tunnipõhiselt. Otsene SSH-juurdepääs võimaldab teil kohe oma keskkonda ja töövooge hallata.
Telli H100 NVL tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli H100 NVL