Vuokraa NVIDIA H100 SXM -GPU tunneittain
NVIDIA H100 SXM on Hopper-arkkitehtuurin datakeskus-GPU, jossa on 80 GB VRAM-muistia ja 700 W tehonkulutus. Se tarjoaa noin 53,5 TFLOPS standardia liukulukulaskentaa ja noin 2869 GB/s muistikaistanleveyden, ja tukee CUDA-laskentakykyä 9.0. Vuokraa se palvelussa ONIE tuntiperusteisella laskutuksella, täydellä SSH-käytöllä ja valmiilla malleilla PyTorch/CUDA, vLLM, Ollama ja ComfyUI varten.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin H100 SXM soveltuu
Suurten kielimallien päättely
Ota vaativat kielimallit tuotantokäyttöön hyödyntäen 80 GB VRAM-kapasiteettia ja noin 2869 GB/s muistikaistanleveyttä vLLM- tai Ollama-mallien avulla.
Syväoppimisen hienosäätö
Kouluta ja hienosäädä neuroverkkoja Hopper-arkkitehtuurilla ja CUDA-laskentakyvyllä 9.0 valmiiksi määritetyissä PyTorch/CUDA-ympäristöissä.
Suorituskykyinen erien käsittely
Aja raskaita datankäsittely- ja simulointityökuormia, jotka hyötyvät noin 53,5 TFLOPS laskentatehosta 700 W datakeskuskokoonpanossa.
Raskaat generatiiviset mediatyönkulut
Suorita monimutkaisia ComfyUI-putkia ja diffuusiomalleja suurilla eräkoilla, jotka mahtuvat mukavasti 80 GB muistiin.
Onko tämä oikea GPU sinulle?
Valitse H100 SXM, kun koulutus- tai päättelytyökuormasi vaativat 80 GB suurikaistaista datakeskusmuistia ja Hopper-arkkitehtuurin ominaisuuksia. Pienempi työasema- tai kuluttaja-GPU sopii paremmin kevyeen kehitykseen tai pieniin malleihin, kun taas uudempi tai suurempikapasiteettinen datakeskus-GPU on parempi valinta, jos yksi instanssi ei mahdu kokonaan 80 GB VRAM-muistiin.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko H100 SXM LLM-hienosäätöön ja -päättelyyn?
Kyllä. Sen 80 GB VRAM-muisti ja noin 2869 GB/s muistikaistanleveys tekevät siitä hyvin sopivan suurten kielimallien palvelemiseen ja hienosäätöön. Voit aloittaa heti palvelussa ONIE käyttämällä valmiita vLLM-, Ollama- tai PyTorch/CUDA-malleja.
Miten SXM-versio vertautuu pienitehoisiin datakeskus- tai työasema-GPU:hin?
H100 SXM toimii 700 W suunnittelullisella lämpötehollaan, minkä ansiosta se pystyy ylläpitämään suuremman laskentatehon ja muistikaistanleveyden kuin PCIe-datakeskusversiot tai työasemakortit. Jos työkuormasi ei käytä täyttä noin 53,5 TFLOPS laskentatehoa tai 80 GB muistia, pienempi GPU voi riittää.
Mitä ohjelmistoyhteensopivuutta CUDA-laskentakyky 9.0 tarjoaa?
Laskentakyky 9.0 tarkoittaa laitteistotukea NVIDIA Hopper-arkkitehtuurin käskyille ja ominaisuuksille. Valmiiksi määritetyt PyTorch/CUDA-mallimme ovat käyttövalmiita hyödyntämään tätä laitteistoa ilman manuaalista ajurien asennusta.
Miten laskutus ja instanssin käyttö toimivat palvelussa ONIE?
Instansseista veloitetaan tuntiperusteisesti vuokra-ajan mukaan. Käyttöönoton jälkeen voit yhdistää ympäristöösi suoraan SSH-yhteyden kautta tai käyttää esiasennettuja työkaluja, kuten ComfyUI:ta.
Vuokraa H100 SXM tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa H100 SXM