Huur een NVIDIA L40S GPU per uur
De NVIDIA L40S is een datacenter-GPU op basis van Ada Lovelace, beschikbaar om in de cloud te huren op ONIE. Hij biedt 45 GB VRAM, ongeveer 73.3 TFLOPS aan rekenkracht voor single precision en een geheugenbandbreedte van ongeveer 626 GB/s binnen een vermogensbudget van 350 W. Hij ondersteunt CUDA compute capability 8.9 en deze instantie is geschikt voor veeleisende AI-training, inferentie en grafische workloads, met facturatie per uur.
Specificaties
VRAM per GPU
Architectuur
Compute capability
FP32-rekenkracht
Geheugenbandbreedte
Vermogenslimiet
Waarden opgegeven door de infrastructuurprovider voor de momenteel vermelde machines; de werkelijke prestaties verschillen per machine.
Beschikbare configuraties
Actuele voorraad en prijzen, continu bijgewerkt. De definitieve prijs wordt bevestigd voordat u bestelt.
Actuele prijzen laden…
Waarvoor de L40S geschikt is
Inferentie van grote taalmodellen
Zet gekwantiseerde of volledige-precisiemodellen in met kant-en-klare templates zoals vLLM en Ollama, binnen de geheugencapaciteit van 45 GB.
Generatieve beeldworkflows
Voer complexe diffusion-pipelines en batchgeneratietaken uit in ComfyUI, met gebruik van de Ada Lovelace-architectuur.
Deep learning fine-tuning
Fine-tune neurale netwerken en LoRA-adapters in PyTorch/CUDA-omgevingen met ongeveer 73.3 TFLOPS aan rekenkracht.
Datacenter-grafische toepassingen en rendering
Voer headless rendering- en simulatietaken uit die profiteren van een datacenter-GPU met ongeveer 626 GB/s geheugenbandbreedte.
Is dit de juiste GPU voor u?
Kies de L40S wanneer uw workload 45 GB VRAM en datacenterbetrouwbaarheid vereist, een stap verder dan standaard consumentenkaarten. Als uw modellen in minder geheugen passen, is een kleinere workstation- of consumenten-GPU voordeliger. Enorme, niet-gekwantiseerde foundationmodellen vragen om een datacenter-GPU met meer geheugen.
Vergelijk met vergelijkbare GPU's
Veelgestelde vragen
Is de NVIDIA L40S geschikt voor LLM-inferentie en fine-tuning?
Ja, met 45 GB VRAM en CUDA compute capability 8.9 is de L40S goed geschikt voor het serveren van middelgrote tot grote taalmodellen en voor parameter-efficiënte fine-tuning. U kunt instanties starten met vooraf geconfigureerde vLLM-, Ollama- of PyTorch/CUDA-templates.
Hoe verhoudt de L40S zich tot consumenten-GPU's of grotere datacenter-GPU's?
De L40S biedt meer VRAM dan standaard consumenten-Ada Lovelace-kaarten, waardoor grotere modelgewichten in het geheugen passen zonder offloading. Hij heeft echter een lagere geheugenbandbreedte dan datacenter-GPU's met veel geheugen die uitsluitend voor rekenwerk zijn ontworpen. Die zijn beter geschikt voor zeer grote, geheugengebonden trainingstaken.
Hoe maak ik verbinding met mijn L40S-instantie op ONIE en configureer ik die?
U krijgt volledige SSH-toegang tot uw omgeving zodra de instantie is opgestart. U kunt ook kant-en-klare templates selecteren, waaronder PyTorch/CUDA, ComfyUI, vLLM en Ollama, om meteen aan de slag te gaan.
Hoe werkt de facturatie voor de L40S?
ONIE hanteert voor alle L40S-huurovereenkomsten een facturatie per uur. U betaalt alleen voor de tijd dat uw instantie aan u is toegewezen.
Huur de L40S per uur
Maak een account aan, kies een configuratie en maak verbinding via SSH. De facturering stopt zodra u de GPU verwijdert.
Huur L40S