Lei NVIDIA L4 GPU per time
NVIDIA L4 er en GPU for datasentre basert på Ada Lovelace-arkitekturen, med 22 GB VRAM og en effektgrense på 72 W. Den leverer omtrent 24,2 TFLOPS enkeltpresisjons flyttallsytelse og omtrent 221 GB/s minnebåndbredde, med CUDA compute capability 8.9. Leie den på ONIE med timebasert fakturering, full SSH-tilgang og klare maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva L4 er god til
Inferens med språkmodeller
Kjør kvantiserte eller små til mellomstore språkmodeller i 22 GB VRAM ved hjelp av forhåndskonfigurerte vLLM- eller Ollama-maler.
Bildegenereringsarbeidsflyter
Ta i bruk ComfyUI-pipelines som får plass innenfor 22 GB minne, samtidig som du utnytter funksjonene i Ada Lovelace-arkitekturen.
Lett finjustering
Kjør parametereffektiv finjustering og adapter-trening i PyTorch/CUDA-miljøer uten behov for et datasenterkort med høy effekt.
Batch-prosessering av media og bilder
Prosesser inferens for datasyn og videoarbeidsbelastninger på en GPU for datasentre med 72 W effekt.
Er dette den riktige GPU-en for deg?
Velg L4 når du trenger 22 GB VRAM og Ada Lovelace compute capability 8.9 til inferens eller moderate treningsoppgaver. Gå over til en større GPU for datasentre hvis modellene dine overstiger 22 GB eller krever mer enn omtrent 221 GB/s minnebåndbredde, eller velg et mindre kort for enkle utviklingsoppgaver som krever mindre minne.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er NVIDIA L4 egnet for LLM-inferens?
Ja, 22 GB VRAM gjør det mulig å kjøre små og mellomstore språkmodeller eller kvantiserte vekter. Du kan starte vLLM- eller Ollama-maler på ONIE og begynne å servere modeller med en gang.
Hvordan sammenlignes L4 med større GPU-er for datasentre?
L4 er designet for effektivitet, med et effektforbruk på 72 W, omtrent 24,2 TFLOPS enkeltpresisjons beregningskraft og omtrent 221 GB/s minnebåndbredde. Større GPU-er for datasentre tilbyr mer VRAM og høyere minnebåndbredde til krevende trening, mens L4 er fokusert på kostnadseffektiv inferens og lette arbeidsbelastninger.
Hvilke programvaremaler finnes for L4 på ONIE?
Du kan ta i bruk L4 med klare maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI. Alle instanser inkluderer SSH-tilgang, slik at du kan tilpasse programvaremiljøet ditt og arbeidsflyter for CUDA compute capability 8.9.
Hvordan fungerer fakturering for L4-instanser?
ONIE fakturerer L4-instanser per time. Du betaler bare for tiden instansen din er aktiv, noe som gjør den praktisk både for korte eksperimenter og løpende inferensoppgaver.
Lei L4 per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei L4