Lej en NVIDIA L40S GPU pr. time
NVIDIA L40S er en datacenter-GPU baseret på Ada Lovelace, som kan lejes i skyen hos ONIE. Den har 45 GB VRAM, cirka 73,3 TFLOPS enkeltpræcisionsberegning og en hukommelsesbåndbredde på cirka 626 GB/s inden for en effektramme på 350 W. Med CUDA compute capability 8.9 håndterer instansen krævende AI-træning, inferens og grafikopgaver med faktura pr. time.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad L40S er god til
Inferens med store sprogmodeller
Kør kvantiserede eller fuldpræcisionsmodeller med færdige skabeloner som vLLM og Ollama inden for de 45 GB hukommelseskapacitet.
Generative billedworkflows
Kør komplekse diffusionspipelines og batchgenerering i ComfyUI med udnyttelse af Ada Lovelace-arkitekturen.
Deep learning-finjustering
Finjuster neurale netværk og LoRA-adaptere i PyTorch/CUDA-miljøer med cirka 73,3 TFLOPS beregningskraft.
Datacenter-grafik og rendering
Udfør headless rendering og simuleringsopgaver, der drager fordel af en datacenter-GPU med cirka 626 GB/s hukommelsesbåndbredde.
Er det den rigtige GPU til dig?
Vælg L40S, når din arbejdsbyrde kræver 45 GB VRAM og datacenterpålidelighed, og du har brug for mere end standard forbrugerkort. Hvis dine modeller kan være i mindre hukommelse, er en mindre workstation- eller forbrugerGPU mere økonomisk, mens meget store ukvantiserede foundation-modeller kræver en datacenter-GPU med mere hukommelse.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er NVIDIA L40S egnet til LLM-inferens og finjustering?
Ja. Med 45 GB VRAM og CUDA compute capability 8.9 er L40S velegnet til at servere mellemstore til store sprogmodeller og køre parameter-effektiv finjustering. Du kan starte instanser med forudkonfigurerede vLLM-, Ollama- eller PyTorch/CUDA-skabeloner.
Hvordan sammenligner L40S sig med forbrugerGPU'er eller større datacenter-GPU'er?
L40S tilbyder mere VRAM end standard forbrugerkort med Ada Lovelace, så den kan rumme større modelvægte uden offloading. Den har dog lavere hukommelsesbåndbredde end datacenter-GPU'er med høj hukommelseskapacitet og kun beregning, som foretrækkes til store, hukommelsesbundne træningsjob.
Hvordan opretter jeg forbindelse til og konfigurerer min L40S-instans hos ONIE?
Du får fuld SSH-adgang til dit miljø, så snart instansen er startet. Du kan også vælge færdige skabeloner, herunder PyTorch/CUDA, ComfyUI, vLLM og Ollama, så du kan begynde at arbejde med det samme.
Hvordan fungerer fakturering for L40S?
ONIE bruger fakturering pr. time for alle L40S-lejemål. Du betaler kun for den tid, din instans er tildelt.
Lej L40S per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej L40S