Üüri NVIDIA H100 PCIE GPU-d tunnipõhiselt
NVIDIA H100 PCIE on Hopperi arhitektuuril põhinev andmekeskuse GPU, mis on loodud nõudlikeks süvaõppe- ja teadusarvutuse töökoormusteks. Sellel on 80 GB VRAM-i, umbes 1760 GB/s mälu läbilaskevõime ja umbes 41.0 TFLOPS tavapärast ujukomaarvutusvõimsust 350 W võimsustarbe juures. Platvormil ONIE saate kasutada seda arvutusvõimega 9.0 kiirendit tunnipõhise arvelduse ja täieliku SSH-juurdepääsuga.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks H100 PCIE sobib
Suurte keelemudelite inferents
Käivitage suuri keelemudeleid mälus, kasutades 80 GB VRAM-i ja suurt mälu läbilaskevõimet ning eelkonfigureeritud vLLM-i või Ollama malle.
Mudelite peenhäälestamine ja treenimine
Treenige või peenhäälestage sügavaid närvivõrke Hopperi arhitektuuri ja kasutusvalmis PyTorch/CUDA keskkondade abil.
Piltide hulgigenereerimine
Käivitage suure läbilaskevõimega difusioonipõhiseid töötlusahelaid ja keerukaid ComfyUI töövooge, mis saavad kasu suurest mälumahust.
Andmeteadus ja simulatsioon
Tehke arvutusmahukaid simulatsioone ja andmetöötlust, kasutades umbes 41.0 TFLOPS tavapärast ujukomajõudlust ja umbes 1760 GB/s mälu läbilaskevõimet.
Kas see GPU sobib sulle?
Valige H100 PCIE, kui teie töökoormused nõuavad 80 GB VRAM-i, andmekeskuse tasemel mälu läbilaskevõimet ja Hopperi arvutusvõime 9.0 funktsioone. Kergema inferentsi või väiksemate mudelite jaoks on väiksema VRAM-iga tööjaama- või tarbijaklassi GPU soodsam valik, samas kui eriti suure läbilaskevõime vajadus võib õigustada SXM-il põhinevat andmekeskuse varianti.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Üksikasjad |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Üksikasjad |
| RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas H100 PCIE sobib LLM-ide peenhäälestamiseks ja inferentsiks?
Jah, 80 GB VRAM-i ja umbes 1760 GB/s mälu läbilaskevõime teevad selle suurte mudelite käitamiseks ja treenimiseks hästi sobivaks. Eelkonfigureeritud PyTorch/CUDA, vLLM-i või Ollama mallidega saate kohe alustada.
Kuidas erineb H100 PCIE SXM-ist või väiksematest tööjaama GPU-dest?
H100 PCIE TDP on 350 W. Võrreldes suurema võimsustarbega SXM-andmekeskuse variantidega tarbib see vähem energiat ja ühildub standardse PCIe-ga. Tööjaama- või tarbijaklassi kaartidega võrreldes pakub see 80 GB juures märksa rohkem VRAM-i ja suuremat mälu läbilaskevõimet.
Milline on selle GPU tarkvaratugi ja arvutusvõime?
NVIDIA Hopperi arhitektuuril põhinev H100 PCIE toetab CUDA arvutusvõimet 9.0. Saate käivitada eksemplare kasutusvalmis mallidega, sealhulgas PyTorch/CUDA ja ComfyUI, või seadistada SSH-juurdepääsu kaudu oma tarkvarakeskkonna.
Kuidas toimub H100 PCIE eksemplaride eest arveldamine platvormil ONIE?
Platvormi ONIE eksemplaridele kehtib lihtne tunnipõhine arveldus, nii et maksate ainult aja eest, mil teie GPU on aktiivne. Iga käivitusega kaasneb täielik SSH-juurdepääs.
Telli H100 PCIE tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli H100 PCIE