Hyr NVIDIA L4 GPU per timme
NVIDIA L4 är ett datacenter-GPU med Ada Lovelace-arkitektur, 22 GB VRAM och en effektbudget på 72 W. Det levererar cirka 24,2 TFLOPS enkelprecisionsberäkning och cirka 221 GB/s minnesbandbredd med CUDA compute capability 8.9. Hyr den på ONIE med timvis fakturering, full SSH-åtkomst och färdiga mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad L4 passar för
Språkmodellinferens
Kör kvantiserade eller små till medelstora språkmodeller i de 22 GB VRAM med förkonfigurerade vLLM- eller Ollama-mallar.
Bildgenereringsarbetsflöden
Driftsätt ComfyUI-pipelines som ryms bekvämt inom 22 GB minne samtidigt som Ada Lovelace-arkitekturens funktioner utnyttjas.
Lättviktig finjustering
Kör parametereffektiv finjustering och adapterträningsjobb i PyTorch/CUDA-miljöer utan att behöva ett högeffektivt datacenterkort.
Batchbearbetning av media och bild
Bearbeta inferens för datorseende och videoarbetslaster på ett datacenter-GPU med 72 W märkeffekt.
Är det rätt GPU för dig?
Välj L4 när du behöver 22 GB VRAM och Ada Lovelace compute capability 8.9 för inferens eller måttliga träningsarbetslaster. Gå över till ett större datacenter-GPU om dina modeller överstiger 22 GB eller kräver mer än cirka 221 GB/s minnesbandbredd, eller välj ett mindre kort för enklare utvecklingsuppgifter som kräver mindre minne.
Jämför med liknande GPU:er
Vanliga frågor
Är NVIDIA L4 lämpad för LLM-inferens?
Ja, 22 GB VRAM gör att du kan köra små och medelstora språkmodeller eller kvantiserade vikter. Du kan starta vLLM- eller Ollama-mallar på ONIE och börja servera modeller direkt.
Hur jämförs L4 med större datacenter-GPU:er?
L4 är utformad för effektivitet med en effektförbrukning på 72 W, cirka 24,2 TFLOPS enkelprecisionsberäkning och cirka 221 GB/s minnesbandbredd. Större datacenter-GPU:er erbjuder mer VRAM och högre minnesbandbredd för tung träning, medan L4 fokuserar på kostnadseffektiv inferens och lättare arbetslaster.
Vilka programvarumallar finns för L4 på ONIE?
Du kan driftsätta L4 med färdiga mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI. Alla instanser inkluderar SSH-åtkomst så att du kan anpassa din programvarumiljö och dina arbetsflöden för CUDA compute capability 8.9.
Hur fungerar faktureringen för L4-instanser?
ONIE fakturerar L4-instanser per timme. Du betalar endast för den tid din instans är aktiv, vilket gör den praktisk för både korta experiment och löpande inferensuppgifter.
Hyr L4 per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr L4