Hyr NVIDIA A40 GPU per timme
NVIDIA A40 är en datacenter-GPU baserad på Ampere-arkitekturen, med compute capability 8.6 och 45 GB VRAM. På ONIE levererar den cirka 29.9 TFLOPS prestanda med enkel precision och cirka 536 GB/s minnesbandbredd inom en effektbudget på 300 W. Du kan driftsätta den med timdebitering, full SSH-åtkomst och färdiga mallar för bland annat PyTorch/CUDA, vLLM, Ollama och ComfyUI.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad A40 passar för
Inferens med stora språkmodeller
Kör modeller som kräver upp till 45 GB minne med förkonfigurerade mallar för vLLM eller Ollama.
Finjustering av djupinlärningsmodeller
Finjustera neurala nätverk med PyTorch/CUDA och gott om VRAM för större batchstorlekar och vikter.
Arbetsflöden för generering av bilder
Kör komplexa diffusionspipelines och håll flera kontrollpunkter i minnet samtidigt med ComfyUI.
Beräkningsuppgifter för datacenter
Dra nytta av cirka 29.9 TFLOPS beräkningskapacitet med enkel precision och cirka 536 GB/s minnesbandbredd för simulering och rendering.
Är det rätt GPU för dig?
Välj A40 när arbetsbelastningen kräver 45 GB VRAM på en datacenter-GPU med Ampere-arkitektur, vilket överstiger standardkapaciteten hos konsumentkort. Välj ett mindre konsumentkort om modellerna ryms i mindre minne, eller byt till en datacenter-GPU med högre bandbredd om träningsjobben begränsas kraftigt av minnesgenomströmningen.
Jämför med liknande GPU:er
Vanliga frågor
Passar NVIDIA A40 för inferens och finjustering av LLM:er?
Ja, kapaciteten på 45 GB VRAM gör A40 väl lämpad för att vara värd för medelstora till stora språkmodeller och för parameter-effektiv finjustering. Du kan starta mallar för vLLM, Ollama eller PyTorch/CUDA direkt på ONIE och komma igång direkt.
Hur står sig A40 jämfört med mindre konsument-GPU:er eller större datacenter-GPU:er?
A40 har 45 GB VRAM, vilket ger mer minnesutrymme än vanliga konsument-GPU:er för minnesbegränsade arbetsbelastningar. Minnesbandbredden på cirka 536 GB/s är dock lägre än hos datacenter-GPU:er i högre segment med HBM-minne.
Vilka programvarumiljöer finns tillgängliga för A40 på ONIE?
A40 stöder CUDA compute capability 8.6 och kan driftsättas med färdiga mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI. Full SSH-åtkomst ingår, så att du kan anpassa programvarustacken efter behov.
Hur fungerar debiteringen för A40-instanser?
ONIE debiterar alla A40-hyror per timme. Du betalar bara för den tid instansen är aktiv, vilket passar både korta experiment och längre produktionskörningar.
Hyr A40 per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr A40