Huur een NVIDIA L4 GPU per uur
De NVIDIA L4 is een datacenter-GPU met de Ada Lovelace-architectuur, met 22 GB VRAM en een vermogen van 72 W. Hij levert ongeveer 24,2 TFLOPS aan single-precision-rekenkracht en ongeveer 221 GB/s geheugenbandbreedte, met CUDA compute capability 8.9. Huur hem bij ONIE met facturering per uur, volledige SSH-toegang en kant-en-klare templates voor PyTorch/CUDA, vLLM, Ollama en ComfyUI.
Specificaties
VRAM per GPU
Architectuur
Compute capability
FP32-rekenkracht
Geheugenbandbreedte
Vermogenslimiet
Waarden opgegeven door de infrastructuurprovider voor de momenteel vermelde machines; de werkelijke prestaties verschillen per machine.
Beschikbare configuraties
Actuele voorraad en prijzen, continu bijgewerkt. De definitieve prijs wordt bevestigd voordat u bestelt.
Actuele prijzen laden…
Waarvoor de L4 geschikt is
Inferentie van taalmodellen
Draai gekwantiseerde of kleine tot middelgrote taalmodellen binnen de 22 GB VRAM met vooraf geconfigureerde vLLM- of Ollama-templates.
Workflows voor beeldgeneratie
Zet ComfyUI-pipelines in die ruimschoots binnen 22 GB geheugen passen en gebruikmaken van de functies van de Ada Lovelace-architectuur.
Lichtgewicht fine-tuning
Voer parameter-efficiënte fine-tuning- en adaptertrainingsjobs uit in PyTorch/CUDA-omgevingen, zonder dat u een datacenterkaart met hoog vermogen nodig heeft.
Batchverwerking van media en computer vision
Verwerk computer vision-inferentie en videoworkloads op een datacenter-GPU met een vermogen van 72 W.
Is dit de juiste GPU voor u?
Kies de L4 wanneer u 22 GB VRAM en Ada Lovelace-compute capability 8.9 nodig heeft voor inferentie of matige trainingsworkloads. Schakel over naar een grotere datacenter-GPU als uw modellen groter zijn dan 22 GB of meer dan ongeveer 221 GB/s geheugenbandbreedte vereisen, of kies een kleinere kaart voor basale ontwikkeltaken die minder geheugen nodig hebben.
Vergelijk met vergelijkbare GPU's
Veelgestelde vragen
Is de NVIDIA L4 geschikt voor LLM-inferentie?
Ja, de 22 GB VRAM maakt het mogelijk om kleine en middelgrote taalmodellen of gekwantiseerde gewichten te hosten. U kunt direct vLLM- of Ollama-templates starten op ONIE om modellen meteen te gaan serveren.
Hoe verhoudt de L4 zich tot grotere datacenter-GPU's?
De L4 is ontworpen voor efficiëntie, met een vermogen van 72 W, ongeveer 24,2 TFLOPS aan single-precision-rekenkracht en ongeveer 221 GB/s geheugenbandbreedte. Grotere datacenter-GPU's bieden meer VRAM en hogere geheugenbandbreedte voor zware training, terwijl de L4 zich richt op kosteneffectieve inferentie en lichte workloads.
Welke softwaretemplates zijn er beschikbaar voor de L4 op ONIE?
U kunt de L4 implementeren met kant-en-klare templates voor PyTorch/CUDA, vLLM, Ollama en ComfyUI. Alle instanties bevatten SSH-toegang, zodat u uw softwareomgeving en workflows met CUDA compute capability 8.9 naar wens kunt aanpassen.
Hoe werkt de facturering voor L4-instanties?
ONIE factureert L4-instanties per uur. U betaalt alleen voor de tijd dat uw instantie actief is, wat praktisch is voor zowel korte experimenten als doorlopende inferentietaken.
Huur de L4 per uur
Maak een account aan, kies een configuratie en maak verbinding via SSH. De facturering stopt zodra u de GPU verwijdert.
Huur L4