Vuokraa NVIDIA A100 SXM4 -GPU tunneittain
NVIDIA A100 SXM4 on Ampere-arkkitehtuurin datakeskus-GPU, jossa on 40 GB VRAM-muistia ja 400 W:n tehonkulutusraja. Se tarjoaa noin 1313 GB/s muistikaistaa ja noin 15.6 TFLOPS yksittäistarkkuuslaskentatehoa laskentakyvykkyydellä 8.0. Vuokraa se palvelusta ONIE tuntiveloituksella, suoralla SSH-yhteydellä ja valmiilla malleilla, kuten PyTorch/CUDA, vLLM, Ollama ja ComfyUI.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin A100 SXM4 soveltuu
LLM-päättely ja -palvelu
Aja 40 GB VRAM-muistiin mahtuvia kielimalleja valmiiksi määritetyillä vLLM- tai Ollama-malleilla ja hyödynnä suurta muistin läpimenoa.
Syväoppimisen koulutus
Kouluta ja hienosäädä neuroverkkoja PyTorch/CUDA-ympäristössä Ampere-datakeskusarkkitehtuurilla, jonka muistikaista on noin 1313 GB/s.
Eräajona tehtävä kuvagenerointi
Luo korkearesoluutioisia diffuusiotuloksia ja aja monimutkaisia työnkulkuja ComfyUI:ssa ilman kuluttajatason muistin rajoituksia.
Tieteellinen laskenta
Suorita muistia vaativia simulaatioita ja tietojenkäsittelytyökuormia, jotka hyötyvät laskentakyvykkyydestä 8.0 ja SXM4-muototekijän tehorajoista.
Onko tämä oikea GPU sinulle?
Valitse 40 GB A100 SXM4, kun koulutus- tai päättelytyökuormasi ylittävät kuluttaja-GPU:iden muistirajat ja edellyttävät datakeskustason muistikaistaa. Valitse suuremmalla VRAM-muistilla varustettu datakeskus-GPU, jos kvantisoimattomat mallisi ylittävät 40 GB, tai pienempi työasema- tai kuluttajakortti kevyisiin päättely- ja kehitystehtäviin.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Sopiiko 40 GB A100 SXM4 LLM-päättelyyn ja hienosäätöön?
Kyllä, sen 40 GB VRAM-muisti ja noin 1313 GB/s muistikaista soveltuvat hyvin keskikokoisten kielimallien palveluun ja parametritehokkaaseen hienosäätöön. Voit ottaa malleja nopeasti käyttöön mukana toimitetuilla vLLM-, Ollama- tai PyTorch/CUDA-malleilla.
Miten tämä 40 GB SXM4-malli vertautuu muihin datakeskus-GPU:ihin?
SXM4-versio toimii 400 W:n lämpösuunnitteluteholla ja tarjoaa jatkuvaa datakeskustason suorituskykyä Ampere-arkkitehtuurilla laskentakyvykkyydellä 8.0. Jos työkuormasi tarvitsee yli 40 GB muistia mallin pilkkomisen välttämiseksi, harkitse suurempikapasiteettista Ampere- tai uudemman sukupolven datakeskus-GPU:ta.
Miten A100 SXM4:n laskutus toimii palvelussa ONIE?
Instansseja laskutetaan tuntiperusteisesti niin kauan kuin vuokraus on aktiivinen. Voit suorittaa vaativia koulutus- tai eräpäättelytehtäviä ja lopettaa instanssin, kun työ on valmis.
Miten yhdistän A100 SXM4 -instanssiini ja otan sen käyttöön?
Saat suoran SSH-yhteyden koneeseen sekä käyttövalmiit mallit PyTorch/CUDA:lle, vLLM:lle, Ollamalle ja ComfyUI:lle. Valitse haluamasi malli käynnistyksen yhteydessä, niin voit aloittaa työskentelyn heti.
Vuokraa A100 SXM4 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa A100 SXM4