NVIDIA A100 SXM4 GPU stundenweise mieten
Die NVIDIA A100 SXM4 ist eine Rechenzentrums-GPU mit Ampere-Architektur, ausgestattet mit 40 GB VRAM und einer Leistungsaufnahme von 400 W. Sie bietet rund 1313 GB/s Speicherbandbreite und etwa 15.6 TFLOPS Single-Precision-Rechenleistung bei Compute Capability 8.0. Mieten Sie sie auf ONIE mit stundengenauer Abrechnung, direktem SSH-Zugang und einsatzbereiten Vorlagen wie PyTorch/CUDA, vLLM, Ollama und ComfyUI.
Spezifikationen
VRAM pro GPU
Architektur
Compute-Capability
FP32-Rechenleistung
Speicherbandbreite
Leistungslimit
Vom Infrastrukturanbieter gemeldete Werte für aktuell gelistete Systeme; die tatsächliche Leistung variiert je nach System.
Verfügbare Konfigurationen
Aktueller Bestand und Preise, laufend aktualisiert. Der Endpreis wird vor der Bestellung bestätigt.
Aktuelle Preise werden geladen…
Wofür sich die A100 SXM4 eignet
LLM-Inferenz und -Bereitstellung
Führen Sie Sprachmodelle bis 40 GB VRAM über vorkonfigurierte vLLM- oder Ollama-Vorlagen mit hohem Speicherdurchsatz aus.
Deep-Learning-Training
Trainieren und verfeinern Sie neuronale Netze in PyTorch/CUDA auf einer Ampere-Rechenzentrumsarchitektur mit rund 1313 GB/s Speicherbandbreite.
Stapelweise Bildgenerierung
Generieren Sie hochauflösende Diffusionsbilder und führen Sie komplexe Workflows in ComfyUI aus, ohne an die Speichergrenzen von Consumer-Karten zu stoßen.
Wissenschaftliches Rechnen
Führen Sie speicherintensive Simulationen und Datenverarbeitungs-Workloads aus, die von Compute Capability 8.0 und den Leistungsgrenzen des SXM4-Formfaktors profitieren.
Ist es die richtige GPU für Sie?
Wählen Sie die 40 GB A100 SXM4, wenn Ihre Trainings- oder Inferenz-Workloads die Speichergrenzen von Consumer-GPUs überschreiten und die Speicherbandbreite eines Rechenzentrums erfordern. Entscheiden Sie sich für eine Rechenzentrums-GPU mit mehr VRAM, wenn Ihre unquantisierten Modelle 40 GB überschreiten, oder wählen Sie eine kleinere Workstation- oder Consumer-Karte für leichtgewichtige Inferenz und Entwicklung.
Mit ähnlichen GPUs vergleichen
Häufig gestellte Fragen
Eignet sich die 40 GB A100 SXM4 für LLM-Inferenz und Fine-Tuning?
Ja, ihre 40 GB VRAM und rund 1313 GB/s Speicherbandbreite machen sie ideal für die Bereitstellung und das parametereffiziente Fine-Tuning mittelgroßer Sprachmodelle. Mit den bereitgestellten Vorlagen für vLLM, Ollama oder PyTorch/CUDA können Sie Modelle schnell bereitstellen.
Wie schneidet dieses 40-GB-SXM4-Modell im Vergleich zu anderen Rechenzentrums-GPUs ab?
Die SXM4-Variante arbeitet mit einer Thermal Design Power von 400 W und bietet dauerhafte Rechenzentrumsleistung auf Basis der Ampere-Architektur mit Compute Capability 8.0. Wenn Ihr Workload mehr als 40 GB Speicher benötigt, um Model-Sharding zu vermeiden, empfiehlt sich der Wechsel auf eine Rechenzentrums-GPU der Ampere- oder einer neueren Generation mit höherer Kapazität.
Wie funktioniert die Abrechnung für die A100 SXM4 auf ONIE?
Instanzen werden auf Stundenbasis abgerechnet, solange Ihre Miete aktiv ist. So können Sie intensive Trainings- oder Batch-Inferenz-Aufträge ausführen und die Instanz nach Abschluss beenden.
Wie verbinde ich mich mit meiner A100-SXM4-Instanz und richte sie ein?
Sie erhalten direkten SSH-Zugang zur Maschine sowie einsatzbereite Vorlagen für PyTorch/CUDA, vLLM, Ollama und ComfyUI. Wählen Sie beim Starten einfach Ihre bevorzugte Vorlage aus, um sofort mit der Arbeit zu beginnen.
Die A100 SXM4 stundenweise mieten
Erstellen Sie ein Konto, wählen Sie eine Konfiguration und verbinden Sie sich per SSH. Die Abrechnung endet, sobald Sie die GPU löschen.
A100 SXM4 mieten