Üüri NVIDIA H100 SXM GPU-d tunnipõhiselt
NVIDIA H100 SXM on Hopperi arhitektuuriga andmekeskuse GPU, millel on 80 GB VRAM-i ja 700 W võimsuspiirang. See pakub ligikaudu 53.5 TFLOPS-i tavapärast ujukomaarvutusvõimsust ja ligikaudu 2869 GB/s mäluribalaiust ning toetab CUDA arvutusvõimekust 9.0. Rentige see ONIE kaudu tunnipõhise arvelduse, täieliku SSH-juurdepääsu ning PyTorch/CUDA, vLLM-i, Ollama ja ComfyUI valmismallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks H100 SXM sobib
Suurte keelemudelite inferents
Võtke nõudlikud keelemudelid tootmiskeskkonnas kasutusele, kasutades 80 GB VRAM-i ja ligikaudu 2869 GB/s mäluribalaiust vLLM-i või Ollama mallide abil.
Süvaõppemudelite peenhäälestus
Treenige ja peenhäälestage närvivõrke Hopperi arhitektuuri ning CUDA arvutusvõimekuse 9.0 abil eelkonfigureeritud PyTorch/CUDA keskkondades.
Suure läbilaskevõimega pakktöötlus
Käivitage mahukaid andmetöötlus- ja simulatsioonitöid, mis saavad kasu ligikaudu 53.5 TFLOPS-i arvutusvõimsusest 700 W andmekeskuse GPU-s.
Nõudlikud genereeriva meedia töövood
Käivitage keerukaid ComfyUI töövooge ja difusioonimudeleid suurte andmepartiidega, mis mahuvad mugavalt 80 GB mällu.
Kas see GPU sobib sulle?
Valige H100 SXM, kui teie mudelite treenimine või inferents nõuab 80 GB suure ribalaiusega andmekeskuse mälu ja Hopperi arhitektuuri võimalusi. Kergeks arendustööks või väikeste mudelite jaoks on väiksem tööjaama- või tavakasutaja GPU praktilisem valik. Kui kogu mudel ei mahu ühe eksemplari 80 GB VRAM-i, sobib paremini uuem või suurema mälumahuga andmekeskuse GPU.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Üksikasjad |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Üksikasjad |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas H100 SXM sobib LLM-ide peenhäälestuseks ja inferentsiks?
Jah. 80 GB VRAM-i ja ligikaudu 2869 GB/s mäluribalaius teevad selle sobivaks nii suurte keelemudelite kasutamiseks kui ka peenhäälestuseks. ONIE kaudu saate kohe alustada vLLM-i, Ollama või PyTorch/CUDA valmismallidega.
Kuidas erineb SXM-i variant väiksema võimsusega andmekeskuse või tööjaama GPU-dest?
H100 SXM-i soojuslik projekteeritud võimsus on 700 W, mis võimaldab sellel hoida suuremat arvutusvõimsust ja mäluribalaiust kui PCIe-liidesega andmekeskuse variandid või tööjaamakaardid. Kui teie töökoormus ei kasuta ära ligikaudu 53.5 TFLOPS-i arvutusvõimsust või 80 GB mälu, võib piisata väiksemast GPU-st.
Millise tarkvaraga ühildub CUDA arvutusvõimekus 9.0?
Arvutusvõimekus 9.0 näitab NVIDIA Hopperi arhitektuuri käskude ja funktsioonide riistvaralist tuge. Meie eelkonfigureeritud PyTorch/CUDA mallid on valmis seda riistvara kasutama ilma draivereid käsitsi seadistamata.
Kuidas toimivad ONIE arveldus ja juurdepääs eksemplarile?
Eksemplaride kasutuse eest arveldatakse rendiperioodi vältel tunnipõhiselt. Pärast kasutuselevõttu saate oma keskkonnaga otse SSH kaudu ühenduse luua või kasutada eelinstallitud tööriistu, näiteks ComfyUI-d.
Telli H100 SXM tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli H100 SXM