Üüri NVIDIA H200 NVL GPU-d tunnipõhiselt
NVIDIA H200 NVL on Hopperi arhitektuuril põhinev andmekeskuse GPU, mis on loodud mälumahukate töökoormuste jaoks. Sellel on 140 GB VRAM-i ja mälu ribalaius ligikaudu 3884 GB/s. Selle võimsustarve on 600 W, see toetab arvutusvõimekust 9.0 ja pakub tavalistes ujukomaarvutustes ligikaudu 48.3 TFLOPS jõudlust. Saate selle protsessori ONIE platvormil kasutusele võtta tunnipõhise arvelduse, otsese SSH-juurdepääsu ja valmismallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks H200 NVL sobib
Suurte keelemudelite inferents
Käivitage suuri mudeleid mälus neid osadeks jagamata, kasutades ära 140 GB VRAM-i ja ligikaudu 3884 GB/s mälu ribalaiust.
Mudelite peenhäälestamine ja treenimine
Treenige ja kohandage süvaõppemudeleid, kasutades Hopperi arvutusvõimekust 9.0 ning mahukat GPU mälu suurte andmepartiide jaoks.
Suure läbilaskevõimega pakktöötlus
Töödelge suuri andmestikke ja pikki kontekstiaknaid tõhusalt PyTorch/CUDA, vLLM-i või Ollama eelseadistatud mallidega.
Teadusarvutused ja simulatsioonid
Käivitage keerukaid andmekeskuse simulatsioone, mis nõuavad tavalistes ujukomaarvutustes ligikaudu 48.3 TFLOPS jõudlust ja rohkelt GPU mälu.
Kas see GPU sobib sulle?
Valige H200 NVL, kui teie peamine piirang on VRAM-i maht ja mälu ribalaius, eriti suurte mudelite käitamisel ühel kaardil. Kui tegelete vähem nõudliku inferentsi, tavapärase pildigeneratsiooni või arendustööga, mis ei vaja 140 GB mälu, on väiksem tööjaama- või tavatarbija GPU praktilisem valik.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Üksikasjad |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Üksikasjad |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Miks valida H200 NVL tavalise Hopperi GPU asemel?
H200 NVL pakub 140 GB VRAM-i ja ligikaudu 3884 GB/s mälu ribalaiust, ületades varasemate Hopperi põlvkonna kaartide mälumahtu ja ribalaiust. Nii mahuvad suuremad mudelid ja kontekstiaknad ühele GPU-le.
Kas H200 NVL sobib LLM-ide käitamiseks vLLM-i või Ollama abil?
Jah. 140 GB mälu ja suur mälu ribalaius sobivad hästi suurte keelemudelite käitamiseks. ONIE pakub nii vLLM-i kui ka Ollama valmismalle, et saaksite kiiresti alustada.
Millised tarkvarakeskkonnad ja juurdepääsuviisid on saadaval?
Iga instantsiga kaasneb täielik SSH-juurdepääs kohandatud seadistamiseks. Samuti saate käivitada instantse eelinstallitud mallidega, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI.
Kuidas toimub H200 NVL-i arveldamine ONIE platvormil?
Instantside eest arveldatakse tunnipõhiselt. Maksate ainult selle aja eest, mil teie H200 NVL-i instants on aktiivne.
Telli H200 NVL tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli H200 NVL