Lej en NVIDIA A100 SXM4 GPU pr. time
NVIDIA A100 SXM4 er en datacenter-GPU baseret på Ampere-arkitekturen med 40 GB VRAM og en effektgrænse på 400 W. Den leverer ca. 1313 GB/s hukommelsesbåndbredde og ca. 15.6 TFLOPS beregningskraft med enkeltpræcision ved compute capability 8.0. Lej den hos ONIE med afregning pr. time, direkte SSH-adgang og færdige skabeloner til blandt andet PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad A100 SXM4 er god til
LLM-inferens og modelservering
Kør sprogmodeller, der kan være i 40 GB VRAM, med forudkonfigurerede vLLM- eller Ollama-skabeloner og høj hukommelsesgennemstrømning.
Træning af neurale netværk
Træn og finjuster neurale netværk i PyTorch/CUDA på en Ampere-datacenterarkitektur med ca. 1313 GB/s hukommelsesbåndbredde.
Batchgenerering af billeder
Generér diffusionsbaserede billeder i høj opløsning, og kør komplekse arbejdsgange i ComfyUI uden at ramme hukommelsesgrænserne for GPU'er til forbrugere.
Videnskabelige beregninger
Kør hukommelseskrævende simuleringer og databehandling, der drager fordel af compute capability 8.0 og effektgrænserne for SXM4-formfaktoren.
Er det den rigtige GPU til dig?
Vælg A100 SXM4 med 40 GB, når dine trænings- eller inferensopgaver overstiger hukommelsesgrænserne for GPU'er til forbrugere og kræver hukommelsesbåndbredde i datacenterklassen. Vælg en datacenter-GPU med mere VRAM, hvis dine ikke-kvantiserede modeller overstiger 40 GB, eller et mindre workstation- eller forbrugerkort til lettere inferens og udvikling.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er A100 SXM4 med 40 GB egnet til LLM-inferens og finjustering?
Ja, dens 40 GB VRAM og ca. 1313 GB/s hukommelsesbåndbredde gør den velegnet til modelservering og parametereffektiv finjustering af mellemstore sprogmodeller. Du kan hurtigt udrulle modeller med de medfølgende skabeloner til vLLM, Ollama eller PyTorch/CUDA.
Hvordan klarer denne SXM4-model med 40 GB sig i forhold til andre datacenter-GPU'er?
SXM4-varianten har en termisk effektgrænse på 400 W og leverer vedvarende datacenterydelse på Ampere-arkitekturen med compute capability 8.0. Hvis din arbejdsopgave kræver mere end 40 GB hukommelse for at undgå at opdele modellen, bør du overveje en Ampere-datacenter-GPU med større kapacitet eller en datacenter-GPU fra en nyere generation.
Hvordan fungerer afregning for A100 SXM4 hos ONIE?
Instanser afregnes pr. time, så længe din leje er aktiv. Det giver dig mulighed for at køre krævende træningsopgaver eller batchinferens og afslutte instansen, når du er færdig.
Hvordan forbinder jeg til og konfigurerer min A100 SXM4-instans?
Du får direkte SSH-adgang til maskinen samt brugsklare skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI. Vælg blot din foretrukne skabelon, når du starter instansen, så du kan gå i gang med det samme.
Lej A100 SXM4 per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej A100 SXM4