Huur een NVIDIA CMP 170HX GPU per uur
De NVIDIA CMP 170HX is een datacenter-GPU met Ampere-architectuur, uitgerust met 64 GB VRAM en een TDP van 250 W. Hij levert ongeveer 1516 GB/s geheugenbandbreedte en ongeveer 12.1 TFLOPS single-precision-rekenkracht bij compute capability 8.0. Op ONIE kunt u deze kaart inzetten met facturering per uur, volledige SSH-toegang en kant-en-klare templates voor PyTorch/CUDA, vLLM, Ollama en ComfyUI.
Specificaties
VRAM per GPU
Architectuur
Compute capability
FP32-rekenkracht
Geheugenbandbreedte
Vermogenslimiet
Waarden opgegeven door de infrastructuurprovider voor de momenteel vermelde machines; de werkelijke prestaties verschillen per machine.
Beschikbare configuraties
Actuele voorraad en prijzen, continu bijgewerkt. De definitieve prijs wordt bevestigd voordat u bestelt.
Actuele prijzen laden…
Waarvoor de CMP 170HX geschikt is
Geheugengebonden LLM-inferentie
Serveer grote taalmodellen via vLLM of Ollama door gebruik te maken van de capaciteit van 64 GB VRAM en ongeveer 1516 GB/s geheugenbandbreedte.
Deep learning met veel geheugen
Voer PyTorch/CUDA-workloads uit die veel geheugencapaciteit en compute capability 8.0 vereisen, zonder modellen over meerdere apparaten te verdelen.
Complexe beeldgeneratie-workflows
Laad meerdere grote diffusiecheckpoints en ControlNets tegelijk in ComfyUI binnen de geheugenpool van 64 GB.
Gegevensverwerking en simulatie
Voer geheugenintensieve datacentertaken uit die baat hebben bij hoge geheugendoorvoer binnen een vermogensbudget van 250 W.
Is dit de juiste GPU voor u?
Kies de CMP 170HX wanneer uw workload beperkt wordt door geheugencapaciteit en -bandbreedte in plaats van door ruwe single-precision-rekenkracht. Kies voor een GPU met hogere rekendoorvoer als u snellere trainingsiteraties nodig heeft, of selecteer een kleinere consumentenkaart als uw modellen geen 64 GB VRAM nodig hebben.
Vergelijk met vergelijkbare GPU's
Veelgestelde vragen
Is de CMP 170HX geschikt voor LLM-inferentie?
Ja, de 64 GB VRAM en ongeveer 1516 GB/s geheugenbandbreedte maken hem zeer geschikt om grote taalmodellen te laden en te serveren met templates zoals vLLM en Ollama. Omdat hij ongeveer 12.1 TFLOPS single-precision-rekenkracht levert, verloopt het verwerken van prompts echter trager dan op datacenter-GPU's met een hogere rekendichtheid.
Hoe verhoudt deze GPU zich tot standaard datacenterversnellers?
De CMP 170HX biedt een grote geheugenbuffer van 64 GB en een hoge geheugenbandbreedte, vergelijkbaar met standaard Ampere-datacenterkaarten, bij een TDP van 250 W. De belangrijkste afweging is een lagere rekendoorvoer van ongeveer 12.1 TFLOPS, waardoor hij beter past bij geheugengebonden taken dan bij zware rekenworkloads.
Welke softwareomgevingen zijn beschikbaar voor deze GPU?
De kaart ondersteunt CUDA compute capability 8.0 en kan op ONIE worden gestart met vooraf geconfigureerde templates, waaronder PyTorch/CUDA, vLLM, Ollama en ComfyUI. U krijgt bovendien directe SSH-toegang om aangepaste bibliotheken te installeren en uw omgeving te beheren.
Hoe werkt de facturering bij het huren van de CMP 170HX?
Instances op ONIE worden per uur gefactureerd, dus u betaalt alleen voor de duur dat uw GPU actief is.
Huur de CMP 170HX per uur
Maak een account aan, kies een configuratie en maak verbinding via SSH. De facturering stopt zodra u de GPU verwijdert.
Huur CMP 170HX