Vuokraa NVIDIA L40S -GPU tunneittain
NVIDIA L40S on ONIE on on lähes Ada Lovelace -arkkitehtuurin datakeskus-GPU, jonka saa vuokrattua pilvestä. Se tarjoaa 45 GB VRAM-muistia, noin 73,3 TFLOPS yksinkertaisen tarkkuuden laskentatehoa ja noin 626 GB/s muistikaistanleveyden 350 W tehorajan sisällä. Tukee CUDA-laskentakykyä 8.9, ja tämä instanssi soveltuu vaativiin tekoälyn koulutukseen, päättelyyn ja grafiikkatöihin. Laskutus tapahtuu tunneittain.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin L40S soveltuu
Suurten kielimallien päättely
Ota käyttöön kvantisoituja tai täyden tarkkuuden kielimalleja valmiilla malleilla, kuten vLLM ja Ollama, 45 GB muistikapasiteetin rajoissa.
Generatiiviset kuvatyönkulut
Aja monimutkaisia diffuusioputkia ja erälaajuisia generointitehtäviä ComfyUI:ssa hyödyntäen Ada Lovelace -arkkitehtuuria.
Syväoppimisen hienosäätö
Hienosäädä neuroverkkoja ja LoRA-sovittimia PyTorch/CUDA-ympäristöissä noin 73,3 TFLOPS laskentatehon avulla.
Datakeskuksen grafiikka ja renderöinti
Suorita näytöttömiä renderöinti- ja simulaatiotehtäviä, jotka hyötyvät datakeskus-GPU:sta, jonka muistikaistanleveys on noin 626 GB/s.
Onko tämä oikea GPU sinulle?
Valitse L40S, kun työkuormasi vaatii 45 GB VRAM-muistia ja datakeskuksen luotettavuutta tavallisten kuluttajakorttien sijaan. Jos mallisi mahtuvat pienempään muistiin, pienempi työasema- tai kuluttaja-GPU on taloudellisempi, kun taas suuret kvantisoimattomat perusmallit vaativat suuremman muistin datakeskus-GPU:n.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko NVIDIA L40S LLM-päättelyyn ja hienosäätöön?
Kyllä. 45 GB VRAM-muistin ja CUDA-laskentakyvyn 8.9 ansiosta L40S soveltuu hyvin keskikokoisten ja suurten kielimallien palveluun sekä parametritehokkaaseen hienosäätöön. Voit käynnistää instanssit valmiiksi konfiguroiduilla vLLM-, Ollama- tai PyTorch/CUDA-malleilla.
Miten L40S vertautuu kuluttaja-GPU:ihin tai suurempiin datakeskus-GPU:ihin?
L40S tarjoaa enemmän VRAM-muistia kuin tavalliset kuluttajakäyttöön tarkoitetut Ada Lovelace -kortit, joten se pystyy pitämään suurempia mallipainoja muistissa ilman siirtoa muualle. Sen muistikaistanleveys on kuitenkin pienempi kuin suurimuistisilla pelkkään laskentaan tarkoitetuilla datakeskus-GPU:illa, jotka sopivat paremmin massiivisiin muistirajoitteisiin koulutustehtäviin.
Miten yhdistän L40S-instanssiini palvelussa ONIE ja määritän sen?
Saat täyden SSH-käyttöoikeuden ympäristöösi heti, kun instanssi on käynnistynyt. Voit myös valita valmiit mallit, kuten PyTorch/CUDA, ComfyUI, vLLM ja Ollama, ja aloittaa työskentelyn välittömästi.
Miten laskutus toimii L40S:n kohdalla?
ONIE veloittaa kaikista L40S-vuokrauksista tunneittain. Maksat vain ajasta, jonka instanssisi on varattuna.
Vuokraa L40S tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa L40S