Vuokraa NVIDIA L4 -GPU tunneittain
NVIDIA L4 on Ada Lovelace -arkkitehtuurin datakeskus-GPU:ssa, jossa on 22 GB VRAM-muistia ja 72 W tehonkulutus. Se tarjoaa noin 24,2 TFLOPS:n yksinkertaisen tarkkuuden liukulukulaskentatehon ja noin 221 GB/s muistikaistan sekä CUDA-laskentakyvyn 8.9. Vuokraa se ONIE-palvelussa tuntiveloituksella, täydellä SSH-käytöllä ja valmiilla malleilla PyTorch/CUDA, vLLM, Ollama ja ComfyUI varten.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin L4 soveltuu
Kielimallien päättely
Aja kvantisoituja tai pieniä ja keskikokoisia kielimalleja 22 GB:n VRAM-muistissa esikonfiguroitujen vLLM- tai Ollama-mallien avulla.
Kuvageneroinnin työnkulut
Ota käyttöön ComfyUI-putkia, jotka mahtuvat mukavasti 22 GB:n muistiin ja hyödyntävät Ada Lovelace -arkkitehtuurin ominaisuuksia.
Kevyt hienosäätö
Suorita parametritehokkaita hienosäätö- ja sovitinkoulutustehtäviä PyTorch/CUDA-ympäristöissä ilman suuritehoista datakeskuskorttia.
Erätyöt media- ja näkömallit
Käsittele tietokonenäön päättelyä ja videotyökuormia datakeskus-GPU:lla, jonka nimellisteho on 72 W.
Onko tämä oikea GPU sinulle?
Valitse L4, kun tarvitset 22 GB VRAM-muistia ja Ada Lovelace -laskentakyvyn 8.9 päättelyyn tai kohtalaisiin koulutustehtäviin. Siirry suurempaan datakeskus-GPU:hun, jos mallisi ylittävät 22 GB:n tai tarvitset yli noin 221 GB/s muistikaistan, tai valitse pienempi kortti yksinkertaisiin kehitystehtäviin, joissa tarvitaan vähemmän muistia.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko NVIDIA L4 LLM-päättelyyn?
Kyllä, 22 GB VRAM-muistin ansiosta voit isännöidä pieniä ja keskikokoisia kielimalleja tai kvantisoituja painoja. Voit käynnistää vLLM- tai Ollama-mallit palvelussa ONIE ja aloittaa mallien tarjoamisen heti.
Miten L4 vertautuu suurempiin datakeskus-GPU:hin?
L4 on suunniteltu tehokkuuteen: sen tehonkulutus on 72 W, yksinkertaisen tarkkuuden laskentateho noin 24,2 TFLOPS ja muistikaista noin 221 GB/s. Suuremmat datakeskus-GPU:t tarjoavat enemmän VRAM-muistia ja suuremman muistikaistan raskaaseen koulutukseen, kun taas L4 keskittyy kustannustehokkaaseen päättelyyn ja kevyisiin tehtäviin.
Mitä ohjelmistomalleja L4:lle on saatavilla palvelussa ONIE?
Voit ottaa L4:n käyttöön valmiiden mallien avulla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-ympäristöihin. Kaikissa instansseissa on SSH-käyttö, jotta voit mukauttaa ohjelmistoympäristöäsi ja CUDA-laskentakyvyn 8.9 työnkulkuja.
Miten L4-instanssien laskutus toimii?
ONIE veloittaa L4-instansseista tuntiperusteisesti. Maksat vain ajasta, jonka instanssisi on aktiivinen, mikä sopii sekä lyhyisiin kokeiluihin että jatkuviin päättelytehtäviin.
Vuokraa L4 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa L4