Lej en NVIDIA A40 GPU pr. time
NVIDIA A40 er en GPU til datacentre, baseret på Ampere-arkitekturen, med beregningskapacitet 8.6 og 45 GB VRAM. Hos ONIE leverer den omkring 29.9 TFLOPS i single precision og omkring 536 GB/s hukommelsesbåndbredde ved et strømforbrug på 300 W. Du kan tage den i brug med timebaseret betaling, fuld SSH-adgang og klargjorte skabeloner til blandt andet PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad A40 er god til
Inferens med store sprogmodeller
Kør modeller, der kræver op til 45 GB hukommelse, med forudkonfigurerede skabeloner til vLLM eller Ollama.
Finjustering af deep learning-modeller
Finjuster neurale netværk i PyTorch/CUDA med rigelig VRAM til større batchstørrelser og modelvægte.
Arbejdsgange til generering af billeder
Kør komplekse diffusionsprocesser, og hav flere checkpoints i hukommelsen samtidig med ComfyUI.
Beregningsopgaver i datacentre
Udnyt omkring 29.9 TFLOPS beregningskraft i single precision og omkring 536 GB/s hukommelsesbåndbredde til simulering og rendering.
Er det den rigtige GPU til dig?
Vælg A40, når din opgave kræver 45 GB VRAM på en datacenter-GPU med Ampere-arkitektur – mere hukommelse end på almindelige forbruger-GPU'er. Vælg en mindre forbruger-GPU, hvis dine modeller kan være i mindre hukommelse, eller en datacenter-GPU med højere båndbredde, hvis dine træningsopgaver er stærkt begrænset af hukommelseshastigheden.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er NVIDIA A40 velegnet til LLM-inferens og finjustering?
Ja, med 45 GB VRAM er A40 velegnet til at køre mellemstore og store sprogmodeller og udføre parametereffektiv finjustering. Du kan starte skabeloner til vLLM, Ollama eller PyTorch/CUDA direkte hos ONIE og komme i gang med det samme.
Hvordan klarer A40 sig i forhold til mindre forbruger-GPU'er og større datacenter-GPU'er?
A40 har 45 GB VRAM, hvilket giver dig mere plads i hukommelsen end almindelige forbruger-GPU'er til opgaver, der kræver meget hukommelse. Dens hukommelsesbåndbredde på omkring 536 GB/s er dog lavere end på større datacenter-GPU'er med HBM-hukommelse.
Hvilke softwaremiljøer er tilgængelige til A40 hos ONIE?
A40 understøtter CUDA-beregningskapacitet 8.6 og kan tages i brug med klargjorte skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI. Fuld SSH-adgang er inkluderet, så du kan tilpasse din software efter behov.
Hvordan fungerer betalingen for A40-instanser?
ONIE afregner alle A40-lejemål pr. time. Du betaler kun for den tid, din instans er aktiv, hvilket gør den praktisk til både korte eksperimenter og længere produktionskørsler.
Lej A40 per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej A40