NVIDIA H200 NVL GPU stundenweise mieten
Die NVIDIA H200 NVL ist eine Rechenzentrums-GPU mit Hopper-Architektur für speicherintensive Workloads und bietet 140 GB VRAM sowie eine Speicherbandbreite von rund 3884 GB/s. Sie arbeitet in einem Leistungsbereich von 600 W, unterstützt Compute Capability 9.0 und liefert etwa 48.3 TFLOPS an Standard-Gleitkomma-Rechenleistung. Sie können diesen Prozessor auf ONIE mit stündlicher Abrechnung, direktem SSH-Zugang und fertigen Vorlagen bereitstellen.
Spezifikationen
VRAM pro GPU
Architektur
Compute-Capability
FP32-Rechenleistung
Speicherbandbreite
Leistungslimit
Vom Infrastrukturanbieter gemeldete Werte für aktuell gelistete Systeme; die tatsächliche Leistung variiert je nach System.
Verfügbare Konfigurationen
Aktueller Bestand und Preise, laufend aktualisiert. Der Endpreis wird vor der Bestellung bestätigt.
Aktuelle Preise werden geladen…
Wofür sich die H200 NVL eignet
Inferenz großer Sprachmodelle
Führen Sie große Modelle ohne Sharding direkt im Speicher aus und profitieren Sie von 140 GB VRAM-Kapazität sowie rund 3884 GB/s Speicherbandbreite.
Modell-Fine-Tuning und Training
Trainieren und passen Sie Deep-Learning-Modelle mithilfe der Hopper Compute Capability 9.0 und des großzügigen GPU-Speichers für große Batch-Größen an.
Batch-Verarbeitung mit hohem Durchsatz
Verarbeiten Sie riesige Datensätze und lange Kontextfenster effizient mit vorkonfigurierten Vorlagen für PyTorch/CUDA, vLLM oder Ollama.
Wissenschaftliches Rechnen und Simulation
Führen Sie komplexe Rechenzentrumssimulationen aus, die rund 48.3 TFLOPS an Standard-Gleitkommaleistung und umfangreichen Onboard-Speicher erfordern.
Ist es die richtige GPU für Sie?
Wählen Sie die H200 NVL, wenn Ihr Hauptengpass die VRAM-Kapazität und die Speicherbandbreite sind, insbesondere beim Hosten großer Modelle auf einer einzelnen Karte. Wenn Sie leichtere Inferenz, Standard-Bildgenerierung oder Entwicklungsaufgaben ausführen, die keine 140 GB Speicher erfordern, ist eine kleinere Workstation- oder Consumer-GPU die praktischere Wahl.
Mit ähnlichen GPUs vergleichen
Häufig gestellte Fragen
Warum sollte man die H200 NVL einer Standard-Hopper-GPU vorziehen?
Die H200 NVL bietet 140 GB VRAM und rund 3884 GB/s Speicherbandbreite, was über der Speicherkapazität und Bandbreite früherer Karten der Hopper-Generation liegt. Dadurch passen größere Modelle und Kontextfenster auf eine einzelne GPU.
Eignet sich die H200 NVL für das Bereitstellen von LLMs mit vLLM oder Ollama?
Ja, der 140 GB große Speicherpool und die hohe Speicherbandbreite machen sie ideal für das Bereitstellen großer Sprachmodelle. ONIE bietet fertige Vorlagen für vLLM und Ollama, damit Sie schnell starten können.
Welche Softwareumgebungen und Zugriffsmethoden sind verfügbar?
Jede Instanz beinhaltet vollen SSH-Zugang für individuelle Konfigurationen. Sie können Instanzen auch mit vorinstallierten Vorlagen wie PyTorch/CUDA, vLLM, Ollama und ComfyUI starten.
Wie funktioniert die Abrechnung für die H200 NVL bei ONIE?
Instanzen werden auf Stundenbasis abgerechnet. Sie zahlen nur für die Zeit, in der Ihre H200 NVL-Instanz aktiv ist.
Die H200 NVL stundenweise mieten
Erstellen Sie ein Konto, wählen Sie eine Konfiguration und verbinden Sie sich per SSH. Die Abrechnung endet, sobald Sie die GPU löschen.
H200 NVL mieten