NVIDIA CMP 170HX GPU stundenweise mieten
Die NVIDIA CMP 170HX ist eine Rechenzentrums-GPU mit Ampere-Architektur, ausgestattet mit 64 GB VRAM und einer TDP von 250 W. Sie liefert rund 1516 GB/s Speicherbandbreite sowie etwa 12.1 TFLOPS Single-Precision-Rechenleistung bei Compute Capability 8.0. Auf ONIE können Sie diese Karte mit stündlicher Abrechnung, vollem SSH-Zugriff und fertigen Vorlagen für PyTorch/CUDA, vLLM, Ollama und ComfyUI bereitstellen.
Spezifikationen
VRAM pro GPU
Architektur
Compute-Capability
FP32-Rechenleistung
Speicherbandbreite
Leistungslimit
Vom Infrastrukturanbieter gemeldete Werte für aktuell gelistete Systeme; die tatsächliche Leistung variiert je nach System.
Verfügbare Konfigurationen
Aktueller Bestand und Preise, laufend aktualisiert. Der Endpreis wird vor der Bestellung bestätigt.
Aktuelle Preise werden geladen…
Wofür sich die CMP 170HX eignet
Speichergebundene LLM-Inferenz
Stellen Sie große Sprachmodelle über vLLM oder Ollama bereit und nutzen Sie dabei die 64 GB VRAM-Kapazität sowie rund 1516 GB/s Speicherbandbreite.
Speicherintensives Deep Learning
Führen Sie PyTorch/CUDA-Workloads aus, die eine hohe Speicherkapazität und Compute Capability 8.0 erfordern, ohne Modelle auf mehrere Geräte aufteilen zu müssen.
Komplexe Workflows zur Bildgenerierung
Laden Sie in ComfyUI mehrere große Diffusions-Checkpoints und ControlNets gleichzeitig in den 64 GB großen Speicherpool.
Datenverarbeitung und Simulation
Führen Sie speicherintensive Rechenzentrumsaufgaben aus, die von einem hohen Speicherdurchsatz innerhalb eines Leistungsrahmens von 250 W profitieren.
Ist es die richtige GPU für Sie?
Wählen Sie die CMP 170HX, wenn Ihr Workload eher durch Speicherkapazität und Bandbreite als durch reine Single-Precision-Rechenleistung limitiert wird. Entscheiden Sie sich für eine GPU mit höherem Rechendurchsatz, wenn Sie schnellere Trainingsiterationen benötigen, oder wählen Sie eine kleinere Consumer-Karte, falls Ihre Modelle keine 64 GB VRAM erfordern.
Mit ähnlichen GPUs vergleichen
Häufig gestellte Fragen
Ist die CMP 170HX für LLM-Inferenz geeignet?
Ja, dank ihrer 64 GB VRAM und rund 1516 GB/s Speicherbandbreite eignet sie sich gut zum Laden und Bereitstellen großer Sprachmodelle mit Vorlagen wie vLLM und Ollama. Da sie jedoch etwa 12.1 TFLOPS an Single-Precision-Rechenleistung bietet, ist die Prompt-Verarbeitung langsamer als auf Rechenzentrums-GPUs mit höherer Rechendichte.
Wie schneidet diese GPU im Vergleich zu herkömmlichen Rechenzentrums-Beschleunigern ab?
Die CMP 170HX bietet einen großen Speicherpuffer von 64 GB und eine hohe Speicherbandbreite, ähnlich wie herkömmliche Ampere-Rechenzentrumskarten, arbeitet dabei jedoch mit einer TDP von 250 W. Ihr wichtigster Kompromiss ist ein geringerer Rechendurchsatz von etwa 12.1 TFLOPS, wodurch sie sich besser für speichergebundene Aufgaben als für rechenintensive Workloads eignet.
Welche Softwareumgebungen sind für diese GPU verfügbar?
Die Karte unterstützt CUDA Compute Capability 8.0 und kann auf ONIE mit vorkonfigurierten Vorlagen wie PyTorch/CUDA, vLLM, Ollama und ComfyUI gestartet werden. Zudem erhalten Sie direkten SSH-Zugriff, um eigene Bibliotheken zu installieren und Ihre Umgebung zu verwalten.
Wie funktioniert die Abrechnung bei der Miete der CMP 170HX?
Instanzen auf ONIE werden stündlich abgerechnet, sodass Sie nur für den Zeitraum zahlen, in dem Ihre GPU aktiv ist.
Die CMP 170HX stundenweise mieten
Erstellen Sie ein Konto, wählen Sie eine Konfiguration und verbinden Sie sich per SSH. Die Abrechnung endet, sobald Sie die GPU löschen.
CMP 170HX mieten