Hyr NVIDIA A100 SXM4 GPU per timme
NVIDIA A100 SXM4 är en datacenter-GPU med Ampere-arkitektur, 40 GB VRAM och en effektgräns på 400 W. Den levererar cirka 1313 GB/s minnesbandbredd och cirka 15.6 TFLOPS beräkningskapacitet med enkel precision vid beräkningskapacitet 8.0. Hyr den på ONIE med timdebitering, direkt SSH-åtkomst och färdiga mallar för bland annat PyTorch/CUDA, vLLM, Ollama och ComfyUI.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad A100 SXM4 passar för
LLM-inferens och servering
Kör språkmodeller som ryms inom 40 GB VRAM med förkonfigurerade vLLM- eller Ollama-mallar och hög minnesgenomströmning.
Träning av djupinlärningsmodeller
Träna och finjustera neurala nätverk i PyTorch/CUDA på en Ampere-datacenterarkitektur med cirka 1313 GB/s minnesbandbredd.
Bildgenerering i batch
Skapa högupplösta diffusionsbilder och kör komplexa arbetsflöden i ComfyUI utan att begränsas av minnet i GPU:er för konsumentbruk.
Vetenskapliga beräkningar
Kör minnesintensiva simuleringar och databehandlingsjobb som drar nytta av beräkningskapacitet 8.0 och effektgränserna för SXM4-formfaktorn.
Är det rätt GPU för dig?
Välj A100 SXM4 med 40 GB när dina tränings- eller inferensjobb överskrider minnesgränserna för GPU:er för konsumentbruk och kräver datacentrets minnesbandbredd. Välj en datacenter-GPU med mer VRAM om dina okvantiserade modeller kräver mer än 40 GB, eller välj ett mindre arbetsstations- eller konsumentkort för enklare inferens och utveckling.
Jämför med liknande GPU:er
Vanliga frågor
Passar A100 SXM4 med 40 GB för LLM-inferens och finjustering?
Ja, 40 GB VRAM och cirka 1313 GB/s minnesbandbredd gör den väl lämpad för servering och parameter-effektiv finjustering av medelstora språkmodeller. Du kan snabbt distribuera modeller med de tillgängliga mallarna för vLLM, Ollama eller PyTorch/CUDA.
Hur står sig den här SXM4-modellen med 40 GB mot andra datacenter-GPU:er?
SXM4-varianten har en termisk designeffekt på 400 W och ger uthållig prestanda i datacenter med Ampere-arkitektur och beräkningskapacitet 8.0. Om ditt jobb kräver mer än 40 GB minne för att undvika att dela upp modellen kan du välja en Ampere-GPU med högre minneskapacitet eller en nyare generation av datacenter-GPU.
Hur fungerar debiteringen för A100 SXM4 på ONIE?
Instanser debiteras per timme så länge din hyra är aktiv. Du kan köra intensiva tränings- eller inferensjobb i batch och avsluta instansen när du är klar.
Hur ansluter jag till och konfigurerar min A100 SXM4-instans?
Du får direkt SSH-åtkomst till maskinen samt färdiga mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI. Välj bara den mall du föredrar när du startar instansen för att komma igång direkt.
Hyr A100 SXM4 per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr A100 SXM4