Lei NVIDIA A100 SXM4 GPU per time
NVIDIA A100 SXM4 er en GPU for datasentre med Ampere-arkitektur, utstyrt med 40 GB VRAM og en effektgrense på 400 W. Den leverer omtrent 1313 GB/s minnebåndbredde og omtrent 15.6 TFLOPS enkeltpresisjonsytelse ved compute capability 8.0. Lei den på ONIE med timebasert fakturering, direkte SSH-tilgang og ferdige maler, inkludert PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Spesifikasjoner
VRAM per GPU
Arkitektur
Compute capability
FP32-beregning
Minnebåndbredde
Effektgrense
Verdier oppgitt av infrastrukturleverandøren for maskiner som er tilgjengelige nå. Faktisk ytelse varierer mellom maskiner.
Tilgjengelige konfigurasjoner
Lagerstatus og priser oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Laster inn live-priser…
Hva A100 SXM4 er god til
LLM-inferens og -drift
Kjør språkmodeller som får plass innenfor 40 GB VRAM, med forhåndskonfigurerte vLLM- eller Ollama-maler og høy minnegjennomstrømming.
Trening av dype nevrale nettverk
Tren og finjuster nevrale nettverk i PyTorch/CUDA på en Ampere-arkitektur for datasentre med omtrent 1313 GB/s minnebåndbredde.
Bildegenerering i batch
Generer høyoppløselige diffusjonsresultater og kjør komplekse arbeidsflyter i ComfyUI uten å nå minnegrensene for forbrukerkort.
Vitenskapelige beregninger
Kjør minnekrevende simuleringer og databehandlingsarbeidslaster som drar nytte av compute capability 8.0 og effektgrensene til SXM4-formfaktoren.
Er dette den riktige GPU-en for deg?
Velg A100 SXM4 med 40 GB når trenings- eller inferensarbeidslastene dine overskrider minnegrensene til forbruker-GPU-er og krever minnebåndbredde for datasentre. Velg en GPU for datasentre med mer VRAM hvis de ukvantiserte modellene dine overstiger 40 GB, eller velg et mindre arbeidsstasjons- eller forbrukerkort for lett inferens og utvikling.
Sammenlign med lignende GPU-er
Ofte stilte spørsmål
Er A100 SXM4 med 40 GB egnet for LLM-inferens og finjustering?
Ja, 40 GB VRAM og omtrent 1313 GB/s minnebåndbredde gjør den godt egnet til drift og parameter-effektiv finjustering av mellomstore språkmodeller. Du kan raskt distribuere modeller med de medfølgende malene for vLLM, Ollama eller PyTorch/CUDA.
Hvordan sammenlignes denne SXM4-modellen med 40 GB med andre GPU-er for datasentre?
SXM4-varianten opererer med en termisk designeffekt på 400 W og gir vedvarende ytelse for datasentre på Ampere-arkitekturen med compute capability 8.0. Hvis arbeidslasten din krever mer enn 40 GB minne for å unngå modellsharding, bør du vurdere å oppgradere til en Ampere-GPU med høyere kapasitet eller en GPU for datasentre av nyere generasjon.
Hvordan fungerer fakturering for A100 SXM4 på ONIE?
Instanser faktureres per time så lenge leien din er aktiv. Dette lar deg kjøre intensive trenings- eller batchinferensjobber og avslutte instansen når du er ferdig.
Hvordan kobler jeg til og setter opp A100 SXM4-instansen min?
Du får direkte SSH-tilgang til maskinen, i tillegg til bruksklare maler for PyTorch/CUDA, vLLM, Ollama og ComfyUI. Velg bare ønsket mal ved oppstart for å komme i gang med én gang.
Lei A100 SXM4 per time
Opprett en konto, velg en konfigurasjon og koble til over SSH. Fakturering stopper når du sletter GPU-en.
Lei A100 SXM4