GPU Cloud · NVIDIA · Ampere

Huur een NVIDIA A100 PCIE GPU per uur

De NVIDIA A100 PCIE is een datacenter-GPU op basis van de Ampere-architectuur, uitgerust met 40 GB VRAM en een vermogen van 250 W. Hij levert ongeveer 15.6 TFLOPS aan standaard rekenkracht voor drijvende-kommagetallen en ongeveer 1313 GB/s geheugenbandbreedte, en ondersteunt CUDA compute capability 8.0. Op ONIE kunt u deze hardware huren met facturering per uur, SSH-toegang en kant-en-klare templates voor PyTorch/CUDA, vLLM, Ollama en ComfyUI.

Specificaties

VRAM per GPU

40 GB

Architectuur

NVIDIA Ampere

Compute capability

8.0

FP32-rekenkracht

≈ 15.6 TFLOPS

Geheugenbandbreedte

≈ 1.313 GB/s

Vermogenslimiet

250 W

Waarden opgegeven door de infrastructuurprovider voor de momenteel vermelde machines; de werkelijke prestaties verschillen per machine.

Beschikbare configuraties

Actuele voorraad en prijzen, continu bijgewerkt. De definitieve prijs wordt bevestigd voordat u bestelt.

Actuele prijzen laden…

Waarvoor de A100 PCIE geschikt is

Inferentie van grote taalmodellen

Serveer taalmodellen met vLLM of Ollama en profiteer van de capaciteit van 40 GB VRAM en ongeveer 1313 GB/s geheugenbandbreedte voor het genereren van tokens.

Fine-tuning voor deep learning

Voer trainings- en fine-tuningtaken uit in PyTorch/CUDA op een Ampere-datacenterarchitectuur met compute capability 8.0.

Beeldgeneratie in hoge resolutie

Voer complexe diffusion-workflows uit in ComfyUI die meer geheugen vereisen dan consumentenkaarten bieden.

Wetenschappelijk rekenwerk en dataverwerking

Verwerk geheugenintensieve simulaties en data-analysetaken met ongeveer 15.6 TFLOPS aan rekenkracht.

Is dit de juiste GPU voor u?

Kies de A100 PCIE 40 GB wanneer uw workloads de geheugenlimieten van consumenten-GPU's overschrijden en krachtige datacenterhardware met hoge bandbreedte vereisen. Kies voor een kleinere consumenten-GPU voor lichtgewicht inferentie, of stap over op een datacentermodel met meer VRAM als uw ongekwantiseerde modellen of batchgroottes groter zijn dan 40 GB.

Vergelijk met vergelijkbare GPU's

GPUVRAM per GPUArchitectuurFP32-rekenkrachtVanaf / uurDetails
A100 PCIE40 GBAmpere≈ 15.6 TFLOPS—
A100 SXM440 GBAmpere≈ 15.6 TFLOPS—Details
Q RTX 800045 GBTuring≈ 11.9 TFLOPS—Details
A800 PCIE80 GBAmpere≈ 15.6 TFLOPS—Details

Veelgestelde vragen

Is de A100 PCIE geschikt voor LLM-inferentie en fine-tuning?

Ja, de 40 GB VRAM en ongeveer 1313 GB/s geheugenbandbreedte maken hem zeer geschikt voor het hosten en fine-tunen van middelgrote tot grote modellen die niet op consumentenkaarten passen. U kunt workloads snel implementeren met vooraf geconfigureerde vLLM-, Ollama- of PyTorch/CUDA-templates.

Hoe verhoudt de 40 GB A100 PCIE zich tot andere GPU-klassen?

Als datacenterkaart op basis van Ampere biedt hij aanzienlijk meer geheugenbandbreedte en VRAM dan standaard werkstation- of consumenten-GPU's. Als uw trainings- of inferentiepipeline nog meer geheugencapaciteit vereist, overweeg dan een grotere datacenter-GPU-variant.

Hoe maak ik verbinding met mijn instantie op ONIE en hoe configureer ik deze?

Elke huur omvat volledige SSH-toegang voor directe beheer via de opdrachtregel. U kunt uw instantie ook starten met kant-en-klare templates voor PyTorch/CUDA, vLLM, Ollama of ComfyUI om meteen aan de slag te gaan.

Hoe werkt de facturering voor de A100 PCIE?

Instanties op ONIE worden per uur gefactureerd, zodat u alleen betaalt voor de periode waarin uw datacenter-GPU actief is.

Huur de A100 PCIE per uur

Maak een account aan, kies een configuratie en maak verbinding via SSH. De facturering stopt zodra u de GPU verwijdert.

Huur A100 PCIE

Alle GPU's →