NVIDIA A40 GPU stundenweise mieten
Die NVIDIA A40 ist eine Rechenzentrums-GPU auf Basis der Ampere-Architektur mit Compute Capability 8.6 und 45 GB VRAM. Auf ONIE liefert sie rund 29.9 TFLOPS Single-Precision-Leistung und etwa 536 GB/s Speicherbandbreite bei einer Leistungsaufnahme von 300 W. Sie können sie mit stündlicher Abrechnung, vollem SSH-Zugriff und fertigen Vorlagen wie PyTorch/CUDA, vLLM, Ollama und ComfyUI bereitstellen.
Spezifikationen
VRAM pro GPU
Architektur
Compute-Capability
FP32-Rechenleistung
Speicherbandbreite
Leistungslimit
Vom Infrastrukturanbieter gemeldete Werte für aktuell gelistete Systeme; die tatsächliche Leistung variiert je nach System.
Verfügbare Konfigurationen
Aktueller Bestand und Preise, laufend aktualisiert. Der Endpreis wird vor der Bestellung bestätigt.
Aktuelle Preise werden geladen…
Wofür sich die A40 eignet
Inferenz großer Sprachmodelle
Führen Sie Modelle aus, die bis zu 45 GB Speicher benötigen, mithilfe vorkonfigurierter vLLM- oder Ollama-Vorlagen.
Deep-Learning-Fine-Tuning
Passen Sie neuronale Netze in PyTorch/CUDA mit reichlich VRAM für größere Batch-Größen und Gewichte an.
Generative Bild-Workflows
Führen Sie komplexe Diffusions-Pipelines aus und halten Sie mit ComfyUI mehrere Checkpoints gleichzeitig im Speicher.
Rechenaufgaben im Rechenzentrum
Nutzen Sie rund 29.9 TFLOPS Single-Precision-Rechenleistung und etwa 536 GB/s Speicherbandbreite für Simulations- und Rendering-Workloads.
Ist es die richtige GPU für Sie?
Wählen Sie die A40, wenn Ihr Workload 45 GB VRAM auf einer Ampere-Rechenzentrumsarchitektur erfordert, was die Speicherkapazitäten gängiger Consumer-Karten übersteigt. Entscheiden Sie sich für eine kleinere Consumer-Karte, wenn Ihre Modelle in weniger Speicher passen, oder wechseln Sie zu einer Rechenzentrums-GPU mit höherer Bandbreite, falls Ihre Trainings-Jobs stark durch den Speicherdurchsatz limitiert werden.
Mit ähnlichen GPUs vergleichen
Häufig gestellte Fragen
Eignet sich die NVIDIA A40 für LLM-Inferenz und Fine-Tuning?
Ja, dank der VRAM-Kapazität von 45 GB eignet sich die A40 gut für das Hosting mittlerer bis großer Sprachmodelle sowie für parametereffizientes Fine-Tuning. Sie können vLLM-, Ollama- oder PyTorch/CUDA-Vorlagen direkt auf ONIE starten, um sofort mit der Arbeit zu beginnen.
Wie schneidet die A40 im Vergleich zu kleineren Consumer-GPUs oder größeren Rechenzentrums-GPUs ab?
Die A40 bietet 45 GB VRAM und verschafft Ihnen bei speicherintensiven Workloads mehr Spielraum als herkömmliche Consumer-GPUs. Allerdings ist ihre Speicherbandbreite von rund 536 GB/s geringer als die höherwertiger Rechenzentrums-GPUs mit HBM-Speicher.
Welche Softwareumgebungen sind für die A40 auf ONIE verfügbar?
Die A40 unterstützt CUDA Compute Capability 8.6 und kann mit fertigen Vorlagen für PyTorch/CUDA, vLLM, Ollama und ComfyUI bereitgestellt werden. Voller SSH-Zugriff ist inbegriffen, sodass Sie Ihren Software-Stack nach Bedarf anpassen können.
Wie funktioniert die Abrechnung für A40-Instanzen?
ONIE nutzt für alle A40-Instanzen eine stündliche Abrechnung. Sie zahlen nur für die Zeit, in der Ihre Instanz aktiv ist, was sowohl für kurze Experimente als auch für längere Produktionsläufe praktisch ist.
Die A40 stundenweise mieten
Erstellen Sie ein Konto, wählen Sie eine Konfiguration und verbinden Sie sich per SSH. Die Abrechnung endet, sobald Sie die GPU löschen.
A40 mieten