Lej en NVIDIA L4 GPU pr. time
NVIDIA L4 er en datacenter-GPU med Ada Lovelace-arkitektur, 22 GB VRAM og et strømforbrug på 72 W. Den leverer ca. 24,2 TFLOPS enkeltpræcisionsydelse og ca. 221 GB/s hukommelsesbåndbredde med CUDA compute capability 8.9. Lej den på ONIE med timebaseret fakturering, fuld SSH-adgang og klar-til-brug-skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad L4 er god til
Inferens med sprogmodeller
Kør kvantiserede eller små til mellemstore sprogmodeller i de 22 GB VRAM ved hjælp af forkonfigurerede vLLM- eller Ollama-skabeloner.
Workflows til billedgenerering
Implementer ComfyUI-pipelines, der passer komfortabelt inden for 22 GB hukommelse og udnytter funktionerne i Ada Lovelace-arkitekturen.
Let finjustering
Kør parameter-effektiv finjustering og træning af adaptere i PyTorch/CUDA-miljøer uden behov for et datacenterkort med højt strømforbrug.
Batch-behandling af medier og vision
Behandl inferens til computer vision og videoarbejdsbelastninger på en datacenter-GPU med 72 W.
Er det den rigtige GPU til dig?
Vælg L4, når du har brug for 22 GB VRAM og Ada Lovelace compute capability 8.9 til inferens eller moderate træningsopgaver. Gå op til en større datacenter-GPU, hvis dine modeller overstiger 22 GB, eller hvis du har brug for mere end ca. 221 GB/s hukommelsesbåndbredde. Vælg et mindre kort til simpel udvikling, der kræver mindre hukommelse.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er NVIDIA L4 egnet til LLM-inferens?
Ja, de 22 GB VRAM gør det muligt at hoste små og mellemstore sprogmodeller eller kvantiserede vægte. Du kan starte vLLM- eller Ollama-skabeloner på ONIE og begynde at servere modeller med det samme.
Hvordan sammenlignes L4 med større datacenter-GPU'er?
L4 er designet til effektivitet med et strømforbrug på 72 W, ca. 24,2 TFLOPS enkeltpræcisionsydelse og ca. 221 GB/s hukommelsesbåndbredde. Større datacenter-GPU'er tilbyder mere VRAM og højere hukommelsesbåndbredde til tung træning, mens L4 fokuserer på økonomisk inferens og lette arbejdsbelastninger.
Hvilke softwareskabeloner findes til L4 på ONIE?
Du kan implementere L4 med klar-til-brug-skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI. Alle instanser inkluderer SSH-adgang, så du kan tilpasse dit softwaremiljø og dine CUDA compute capability 8.9-workflows.
Hvordan fungerer fakturering for L4-instanser?
ONIE fakturerer L4-instanser pr. time. Du betaler kun for den tid, din instans er aktiv, hvilket gør det praktisk både til korte eksperimenter og løbende inferensopgaver.
Lej L4 per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej L4