Vuokraa NVIDIA H100 NVL -GPU tunneittain
NVIDIA H100 NVL on Hopper-arkkitehtuuria oleva datakeskus-GPU, jossa on 94 GB VRAM-muistia ja laskentakyky 9.0. Se tarjoaa noin 48,3 TFLOPS yksitarkkuuslaskentatehoa ja noin 3381 GB/s muistikaistanleveyden 400 W:n tehonkulutuksella. Vuokraa H100 NVL palvelussa ONIE tuntiperusteisella laskutuksella, SSH-yhteydellä ja valmiilla malleilla PyTorch/CUDA:lle, vLLM:lle, Ollamalle ja ComfyUI:lle.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin H100 NVL soveltuu
Suurten kielimallien päättely
Ota käyttöön suuria kielimalleja vLLM:llä tai Ollamalla. 94 GB VRAM-muisti ja noin 3381 GB/s muistikaistanleveys mahdollistavat nopean tokenien generoinnin.
Syväoppimisen hienosäätö
Kouluta ja hienosäädä neuroverkkoja PyTorchilla hyödyntäen Hopper-arkkitehtuurin ominaisuuksia ja laskentakykyä 9.0.
Korkearesoluutioinen kuvantuotanto
Aja monimutkaisia ComfyUI-työnkulkuja ja suuria diffuusioputkia muistissa ilman siirtoa järjestelmämuistiin.
Tieteellinen laskenta ja simulointi
Suorita muistia paljon vaativia datakeskuskuormia, jotka hyötyvät noin 48,3 TFLOPS yksitarkkuuslaskentatehosta.
Onko tämä oikea GPU sinulle?
Valitse H100 NVL, kun tekoäly- tai laskentatyösi vaatii enemmän muistia kuin tavalliset datakeskuskortit tarjoavat, jopa 94 GB VRAM-muistia. Kevyeen päättelyyn ja kehitystyöhön sopii paremmin pienempi työasema- tai kuluttajakortti, ja jos mallisi ylittävät 94 GB, tarvitset monen GPU:n kokoonpanon tai suuremman muistiluokan.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko H100 NVL LLM-päättelyyn ja hienosäätöön?
Kyllä. Sen 94 GB VRAM-muisti ja noin 3381 GB/s muistikaistanleveys tekevät siitä hyvin sopivan suurten kielimallien palvelemiseen ja hienosäätöön, jotka eivät mahtuisi pienempiin datakeskus-GPU:hin.
Miten H100 NVL vertautuu tavallisiin H100-versioihin?
H100 NVL tarjoaa laajennetun 94 GB VRAM-muistin ja 400 W:n tehonkulutuksen, mikä antaa lisää muistitilaa verrattuna tavallisiin Hopper-datakeskuskokoonpanoihin.
Mitä ohjelmistomalleja palvelussa ONIE on saatavilla tälle GPU:lle?
Voit ottaa H100 NVL:n käyttöön valmiiksi konfiguroiduilla malleilla PyTorch/CUDA:lle, vLLM:lle, Ollamalle ja ComfyUI:lle. Kaikki tukevat laskentakykyä 9.0.
Miten laskutus ja käyttöoikeus toimivat H100 NVL:n vuokrauksessa?
Instanssit palvelussa ONIE laskutetaan tunneittain, ja niihin on suora SSH-yhteys, jolla voit hallita ympäristöäsi ja työnkulkujasi heti.
Vuokraa H100 NVL tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa H100 NVL