Hyr NVIDIA L40S GPU per timme
NVIDIA L40S är en datacenter-GPU från Ada Lovelace som kan hyras i molnet på ONIE. Den har 45 GB VRAM, cirka 73,3 TFLOPS enkelprecisionsberäkning och en minnesbandbredd på cirka 626 GB/s inom en effektram på 350 W. Med stöd för CUDA compute capability 8.9 klarar instansen krävande AI-träning, inferens och grafiska arbetslaster, med timvis fakturering.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad L40S passar för
Inferens med stora språkmodeller
Kör kvantiserade eller fullprecisionsmodeller med färdiga mallar som vLLM och Ollama inom de 45 GB minneskapaciteten.
Generativa bildarbetsflöden
Kör avancerade diffusionspipelines och batchgenerering i ComfyUI med hjälp av Ada Lovelace-arkitekturen.
Finjustering av djupinlärningsmodeller
Finjustera neurala nätverk och LoRA-adaptrar i PyTorch/CUDA-miljöer med cirka 73,3 TFLOPS beräkningskraft.
Grafik och rendering i datacenter
Kör headless-rendering och simuleringar som drar nytta av en datacenter-GPU med cirka 626 GB/s minnesbandbredd.
Är det rätt GPU för dig?
Välj L40S när din arbetslast kräver 45 GB VRAM och driftsäkerhet i datacenter, som går utöver vanliga konsumentkort. Om dina modeller ryms i mindre minne är en mindre workstation- eller konsument-GPU mer ekonomisk, medan mycket stora okvantiserade grundmodeller kräver en datacenter-GPU med mer minne.
Jämför med liknande GPU:er
Vanliga frågor
Är NVIDIA L40S lämplig för LLM-inferens och finjustering?
Ja, med 45 GB VRAM och CUDA compute capability 8.9 passar L40S väl för att servera medelstora till stora språkmodeller och köra parametereffektiv finjustering. Du kan starta instanser med förkonfigurerade mallar för vLLM, Ollama eller PyTorch/CUDA.
Hur står sig L40S jämfört med konsument-GPU:er eller större datacenter-GPU:er?
L40S har mer VRAM än vanliga konsumentkort med Ada Lovelace, vilket gör att den kan hålla större modellvikter utan avlastning till annat minne. Den har dock lägre minnesbandbredd än datacenter-GPU:er med stort minne som enbart är till för beräkning, och de är att föredra för mycket stora minnesbundna träningsjobb.
Hur ansluter och konfigurerar jag min L40S-instans på ONIE?
Du får full SSH-åtkomst till din miljö så snart instansen har startat. Du kan också välja färdiga mallar, bland annat PyTorch/CUDA, ComfyUI, vLLM och Ollama, för att börja arbeta direkt.
Hur fungerar faktureringen för L40S?
ONIE använder timvis fakturering för alla L40S-hyror. Du betalar endast för den tid din instans är tilldelad.
Hyr L40S per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr L40S