Vuokraa NVIDIA H200 NVL -GPU tunneittain
NVIDIA H200 NVL on Hopper-arkkitehtuurin datakeskus-GPU, joka on suunniteltu muistiintensiivisiin työkuormiin. Se tarjoaa 140 GB VRAM-muistia ja noin 3884 GB/s muistikaistanleveyden. Tehonkulutus on 600 W, se tukee laskentakykyä 9.0 ja tarjoaa noin 48.3 TFLOPS tavanomaista liukulukulaskentaa. Tämän GPU:n voit ottaa käyttöön palvelussa ONIE tuntiperusteisella laskutuksella, suoralla SSH-yhteydellä ja valmiilla pohjilla.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin H200 NVL soveltuu
Suurten kielimallien päättely
Aja suuria malleja muistissa ilman jakamista useille GPU:ille hyödyntäen 140 GB:n VRAM-kapasiteettia ja noin 3884 GB/s:n muistikaistanleveyttä.
Mallien hienosäätö ja koulutus
Kouluta ja mukauta syväoppimismalleja Hopper-laskentakyvyllä 9.0 ja tilavalla GPU-muistilla suurille eräkooille.
Suuri läpimenoteho eräajoissa
Käsittele massiivisia datajoukkoja ja pitkiä kontekstiikkunoita tehokkaasti valmiiksi määritetyillä PyTorch/CUDA-, vLLM- tai Ollama-pohjilla.
Tieteellinen laskenta ja simulointi
Aja monimutkaisia datakeskussimulaatioita, jotka vaativat noin 48.3 TFLOPS:n tavanomaista liukulukusuorituskykyä ja runsaasti sisäänrakennettua muistia.
Onko tämä oikea GPU sinulle?
Valitse H200 NVL, kun pääasiallinen pullonkaula on VRAM-kapasiteetti ja muistikaistanleveys, erityisesti suurten mallien isännöintiin yhdellä kortilla. Jos ajat kevyempää päättelyä, tavanomaista kuvan generointia tai kehitystehtäviä, jotka eivät vaadi 140 GB muistia, pienempi työasema- tai kuluttajakortti on käytännöllisempi valinta.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Miksi valita H200 NVL tavallisen Hopper-GPU:n sijaan?
H200 NVL tarjoaa 140 GB VRAM-muistia ja noin 3884 GB/s muistikaistanleveyden, mikä on enemmän kuin aiempien Hopper-sukupolven korttien muistikapasiteetti ja kaistanleveys. Tämän ansiosta suuremmat mallit ja kontekstiikkunat mahtuvat yhdelle GPU:lle.
Soveltuuko H200 NVL LLM-palveluun vLLM:llä tai Ollamalla?
Kyllä. 140 GB:n muistialue ja suuri muistikaistanleveys tekevät siitä hyvin sopivan suurten kielimallien palveluun. ONIE tarjoaa valmiit pohjat sekä vLLM:lle että Ollamalle, jotta pääset alkuun nopeasti.
Mitä ohjelmistoympäristöjä ja käyttötapoja on saatavilla?
Jokainen instanssi sisältää täyden SSH-yhteyden mukautettuun konfigurointiin. Voit myös käynnistää instansseja valmiiksi asennetuilla pohjilla, kuten PyTorch/CUDA, vLLM, Ollama ja ComfyUI.
Miten laskutus toimii H200 NVL:lle palvelussa ONIE?
Instanssit laskutetaan tuntiperusteisesti. Maksat vain ajasta, jonka H200 NVL -instanssisi on aktiivinen.
Vuokraa H200 NVL tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa H200 NVL