Lei NVIDIA A40 GPU per time
NVIDIA A40 er en datasenter-GPU bygget på Ampere-arkitekturen med compute capability 8.6 og 45 GB VRAM. På ONIE leverer den rundt 29.9 TFLOPS med enkeltpresisjonsytelse og rundt 536 GB/s minnebåndbredde innenfor en strømramme på 300 W. Du kan distribuere den med fakturering per time, full SSH-tilgang og ferdige maler, inkludert PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva A40 er god til
Inferens for store språkmodeller
Kjør modeller som krever opptil 45 GB minne, med forhåndskonfigurerte maler for vLLM eller Ollama.
Finjustering av dyp læring
Finjuster nevrale nettverk i PyTorch/CUDA med rikelig VRAM for større batchstørrelser og vekter.
Generative arbeidsflyter for bilder
Kjør komplekse diffusjonspipelines og hold flere sjekkpunkter i minnet samtidig med ComfyUI.
Datasenterbaserte beregningsoppgaver
Utnytt rundt 29.9 TFLOPS med enkeltpresisjonsberegning og rundt 536 GB/s minnebåndbredde til simulerings- og renderingsarbeidslaster.
Er dette den riktige GPU-en for deg?
Velg A40 når arbeidslasten din krever 45 GB VRAM på en Ampere-arkitektur for datasentre, noe som overstiger standard minnekapasitet på forbrukerkort. Velg et mindre forbrukerkort hvis modellene dine får plass i mindre minne, eller gå over til en datasenter-GPU med høyere båndbredde hvis treningsjobbene dine er sterkt begrenset av minnegjennomstrømning.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er NVIDIA A40 egnet for LLM-inferens og finjustering?
Ja, kapasiteten på 45 GB VRAM gjør A40 godt egnet til å drifte mellomstore til store språkmodeller og utføre parametereffektiv finjustering. Du kan starte maler for vLLM, Ollama eller PyTorch/CUDA direkte på ONIE for å komme i gang umiddelbart.
Hvordan sammenlignes A40 med mindre forbruker-GPU-er eller større datasenter-GPU-er?
A40 har 45 GB VRAM, som gir deg større minnemargin enn standard forbruker-GPU-er for minnebegrensede arbeidslaster. Minnebåndbredden på rundt 536 GB/s er imidlertid lavere enn for datasenter-GPU-er i høyere klasse som bruker HBM-minne.
Hvilke programvaremiljøer er tilgjengelige for A40 på ONIE?
A40 støtter CUDA compute capability 8.6 og kan distribueres med ferdige maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI. Full SSH-tilgang er inkludert, slik at du kan tilpasse programvarestakken etter behov.
Hvordan fungerer fakturering for A40-instanser?
ONIE bruker fakturering per time for alle A40-leier. Du betaler bare for tiden instansen din er aktiv, noe som gjør det praktisk både for korte eksperimenter og lengre produksjonskjøringer.
Lei A40 per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei A40