Huur een NVIDIA A40 GPU per uur
De NVIDIA A40 is een datacenter-GPU op basis van de Ampere-architectuur met compute capability 8.6 en 45 GB VRAM. Op ONIE levert hij ongeveer 29.9 TFLOPS aan single-precision-prestaties en ongeveer 536 GB/s geheugenbandbreedte binnen een vermogensbudget van 300 W. U kunt hem inzetten met facturering per uur, volledige SSH-toegang en kant-en-klare templates, waaronder PyTorch/CUDA, vLLM, Ollama en ComfyUI.
Specificaties
VRAM per GPU
Architectuur
Compute capability
FP32-rekenkracht
Geheugenbandbreedte
Vermogenslimiet
Waarden opgegeven door de infrastructuurprovider voor de momenteel vermelde machines; de werkelijke prestaties verschillen per machine.
Beschikbare configuraties
Actuele voorraad en prijzen, continu bijgewerkt. De definitieve prijs wordt bevestigd voordat u bestelt.
Actuele prijzen laden…
Waarvoor de A40 geschikt is
Inferentie met grote taalmodellen
Draai modellen die tot 45 GB geheugen vereisen met vooraf geconfigureerde vLLM- of Ollama-templates.
Fine-tuning van deep learning-modellen
Fine-tune neurale netwerken in PyTorch/CUDA met ruim VRAM voor grotere batchgroottes en gewichten.
Generatieve beeldworkflows
Voer complexe diffusiepipelines uit en houd meerdere checkpoints tegelijk in het geheugen met ComfyUI.
Datacenter-rekentaken
Benut ongeveer 29.9 TFLOPS aan single-precision-rekenkracht en ongeveer 536 GB/s geheugenbandbreedte voor simulatie- en renderingworkloads.
Is dit de juiste GPU voor u?
Kies de A40 wanneer uw workload 45 GB VRAM vereist op een datacenter-Ampere-architectuur, wat de capaciteit van standaard consumentenkaarten overstijgt. Kies een kleinere consumentenkaart als uw modellen in minder geheugen passen, of ga over naar een datacenter-GPU met hogere bandbreedte als uw trainingstaken sterk worden belemmerd door de geheugendoorvoer.
Vergelijk met vergelijkbare GPU's
Veelgestelde vragen
Is de NVIDIA A40 geschikt voor LLM-inferentie en fine-tuning?
Ja, de geheugencapaciteit van 45 GB VRAM maakt de A40 zeer geschikt voor het hosten van middelgrote tot grote taalmodellen en het uitvoeren van parameter-efficiënte fine-tuning. U kunt direct op ONIE vLLM-, Ollama- of PyTorch/CUDA-templates starten om meteen aan de slag te gaan.
Hoe verhoudt de A40 zich tot kleinere consumenten-GPU's of grotere datacenter-GPU's?
De A40 biedt 45 GB VRAM, wat meer geheugenruimte geeft dan standaard consumenten-GPU's voor geheugengebonden workloads. De geheugenbandbreedte van ongeveer 536 GB/s is echter lager dan die van hogere datacenter-GPU's die HBM-geheugen gebruiken.
Welke softwareomgevingen zijn beschikbaar voor de A40 op ONIE?
De A40 ondersteunt CUDA compute capability 8.6 en kan worden ingezet met kant-en-klare templates voor PyTorch/CUDA, vLLM, Ollama en ComfyUI. Volledige SSH-toegang is inbegrepen, zodat u uw softwarestack naar wens kunt aanpassen.
Hoe werkt de facturering voor A40-instances?
ONIE factureert alle A40-huurovereenkomsten per uur. U betaalt alleen voor de tijd dat uw instance actief is, wat praktisch is voor zowel korte experimenten als langere productieruns.
Huur de A40 per uur
Maak een account aan, kies een configuratie en maak verbinding via SSH. De facturering stopt zodra u de GPU verwijdert.
Huur A40