NVIDIA H100 SXM GPU stundenweise mieten
Die NVIDIA H100 SXM ist eine Rechenzentrums-GPU der Hopper-Architektur, ausgestattet mit 80 GB VRAM und einem Leistungsrahmen von 700 W. Sie liefert rund 53.5 TFLOPS an Standard-Gleitkomma-Rechenleistung sowie eine Speicherbandbreite von etwa 2869 GB/s und unterstützt CUDA Compute Capability 9.0. Mieten Sie sie auf ONIE mit stündlicher Abrechnung, vollem SSH-Zugriff und fertigen Vorlagen für PyTorch/CUDA, vLLM, Ollama und ComfyUI.
Spezifikationen
VRAM pro GPU
Architektur
Compute-Capability
FP32-Rechenleistung
Speicherbandbreite
Leistungslimit
Vom Infrastrukturanbieter gemeldete Werte für aktuell gelistete Systeme; die tatsächliche Leistung variiert je nach System.
Verfügbare Konfigurationen
Aktueller Bestand und Preise, laufend aktualisiert. Der Endpreis wird vor der Bestellung bestätigt.
Aktuelle Preise werden geladen…
Wofür sich die H100 SXM eignet
Inferenz großer Sprachmodelle
Stellen Sie anspruchsvolle Sprachmodelle mithilfe der 80 GB VRAM-Kapazität und etwa 2869 GB/s Speicherbandbreite über Vorlagen für vLLM oder Ollama produktiv bereit.
Deep-Learning-Fine-Tuning
Trainieren und verfeinern Sie neuronale Netze mit der Hopper-Architektur und CUDA Compute Capability 9.0 in vorkonfigurierten PyTorch/CUDA-Umgebungen.
Stapelverarbeitung mit hohem Durchsatz
Führen Sie rechenintensive Datenverarbeitungs- und Simulations-Workloads aus, die von rund 53.5 TFLOPS Rechenleistung im 700-W-Rechenzentrums-Formfaktor profitieren.
Anspruchsvolle generative Medien-Workflows
Führen Sie komplexe ComfyUI-Pipelines und Diffusionsmodelle mit großen Batch-Größen aus, die bequem in den 80 GB großen Speicherpool passen.
Ist es die richtige GPU für Sie?
Wählen Sie die H100 SXM, wenn Ihre Trainings- oder Inferenz-Workloads 80 GB Rechenzentrumsspeicher mit hoher Bandbreite und Funktionen der Hopper-Architektur erfordern. Für leichtgewichtige Entwicklung oder kleine Modelle ist eine kleinere Workstation- oder Consumer-GPU die praktischere Wahl, während eine neuere Rechenzentrums-GPU oder ein Modell mit höherer Kapazität vorzuziehen ist, wenn Ihr gesamtes Modell auf einer einzelnen Instanz nicht in 80 GB VRAM passt.
Mit ähnlichen GPUs vergleichen
Häufig gestellte Fragen
Eignet sich die H100 SXM für LLM-Fine-Tuning und -Inferenz?
Ja, ihre 80 GB VRAM und die Speicherbandbreite von rund 2869 GB/s machen sie sowohl für das Bereitstellen als auch für das Fine-Tuning großer Sprachmodelle bestens geeignet. Auf ONIE können Sie dank fertiger Vorlagen für vLLM, Ollama oder PyTorch/CUDA sofort starten.
Wie schneidet die SXM-Variante im Vergleich zu Rechenzentrums- oder Workstation-GPUs mit geringerer Leistungsaufnahme ab?
Die H100 SXM arbeitet mit einer Thermal Design Power von 700 W und kann dadurch dauerhaft eine höhere Rechenleistung und Speicherbandbreite aufrechterhalten als PCIe-Rechenzentrumsvarianten oder Workstation-Karten. Wenn Ihr Workload die rund 53.5 TFLOPS Rechenleistung oder die 80 GB Speicher nicht ausschöpft, reicht möglicherweise eine kleinere GPU aus.
Welche Softwarekompatibilität bietet CUDA Compute Capability 9.0?
Compute Capability 9.0 kennzeichnet die Hardwareunterstützung für Befehlssätze und Funktionen der NVIDIA-Hopper-Architektur. Unsere vorkonfigurierten PyTorch/CUDA-Vorlagen sind sofort einsatzbereit, um diese Hardware ohne manuelle Treiberinstallation zu nutzen.
Wie funktionieren Abrechnung und Instanzzugriff auf ONIE?
Instanzen werden für die Dauer Ihrer Miete auf Stundenbasis abgerechnet. Nach der Bereitstellung können Sie sich direkt per SSH mit Ihrer Umgebung verbinden oder vorinstallierte Tools wie ComfyUI nutzen.
Die H100 SXM stundenweise mieten
Erstellen Sie ein Konto, wählen Sie eine Konfiguration und verbinden Sie sich per SSH. Die Abrechnung endet, sobald Sie die GPU löschen.
H100 SXM mieten