Lei NVIDIA L40S GPU per time
NVIDIA L40S er en Ada Lovelace-datasenter-GPU som kan leies i skyen hos ONIE. Den har 45 GB VRAM, omtrent 73,3 TFLOPS enkeltpresisjonsregnekraft og en minnebåndbredde på omtrent 626 GB/s innenfor en effektramme på 350 W. Med CUDA compute capability 8.9 håndterer denne instansen krevende AI-trening, inferens og grafikkarbeidsbelastninger, med timebasert fakturering.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva L40S er god til
Inferens med store språkmodeller
Kjør kvantiserte eller fullpresisjonsmodeller for språk med ferdige maler som vLLM og Ollama innenfor 45 GB minnekapasitet.
Generative bildearbeidsflyter
Kjør avanserte diffusjonspipelines og batchgenerering i ComfyUI med utnyttelse av Ada Lovelace-arkitekturen.
Finjustering av dyp læring
Finjuster nevrale nettverk og LoRA-adaptere i PyTorch/CUDA-miljøer med omtrent 73,3 TFLOPS regnekraft.
Datasenter-grafikk og rendering
Kjør headless rendering- og simuleringsoppgaver som drar nytte av en datasenter-GPU med omtrent 626 GB/s minnebåndbredde.
Er dette den riktige GPU-en for deg?
Velg L40S når arbeidsbelastningen din krever 45 GB VRAM og driftssikkerhet fra datasenter, og du trenger mer enn vanlige forbrukerkort. Hvis modellene dine får plass i mindre minne, er en mindre arbeidsstasjons- eller forbruker-GPU mer økonomisk, mens svært store ukvantiserte grunnmodeller krever en datasenter-GPU med mer minne.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er NVIDIA L40S egnet for LLM-inferens og finjustering?
Ja, med 45 GB VRAM og CUDA compute capability 8.9 er L40S godt egnet for å kjøre mellomstore til store språkmodeller og for parametereffektiv finjustering. Du kan starte instanser med forhåndskonfigurerte maler for vLLM, Ollama eller PyTorch/CUDA.
Hvordan sammenlignes L40S med forbruker-GPU-er eller større datasenter-GPU-er?
L40S har mer VRAM enn vanlige forbruker-kort med Ada Lovelace-arkitektur, og kan dermed holde større modellvekter uten å avlaste til annet minne. Den har imidlertid lavere minnebåndbredde enn datasenter-GPU-er med mye minne som kun er beregnet på regning, og disse er å foretrekke for store minnekrevende treningsjobber.
Hvordan kobler jeg til og konfigurerer L40S-instansen min hos ONIE?
Du får full SSH-tilgang til miljøet ditt så snart instansen har startet. Du kan også velge ferdige maler, blant annet PyTorch/CUDA, ComfyUI, vLLM og Ollama, for å starte umiddelbart.
Hvordan fungerer fakturering for L40S?
ONIE bruker timebasert fakturering for alle L40S-leier. Du betaler bare for tiden instansen din er tildelt.
Lei L40S per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei L40S