Hyr NVIDIA CMP 170HX GPU per timme
NVIDIA CMP 170HX är en datacenter-GPU med Ampere-arkitektur, utrustad med 64 GB VRAM och en TDP på 250 W. Den levererar cirka 1516 GB/s i minnesbandbredd och cirka 12.1 TFLOPS beräkningsprestanda med enkel precision vid beräkningskapacitet 8.0. På ONIE kan du driftsätta kortet med timdebitering, full SSH-åtkomst och färdiga mallar för PyTorch/CUDA, vLLM, Ollama och ComfyUI.
Specifikationer
VRAM per GPU
Arkitektur
Compute capability
FP32-beräkning
Minnesbandbredd
Effektgräns
Värden angivna av infrastrukturleverantören för maskiner som för närvarande finns i sortimentet; faktisk prestanda varierar mellan maskiner.
Tillgängliga konfigurationer
Aktuellt lager och priser, uppdateras löpande. Slutpriset bekräftas innan du beställer.
Hämtar aktuella priser…
Vad CMP 170HX passar för
LLM-inferens med minnesbegränsning
Kör stora språkmodeller med vLLM eller Ollama och dra nytta av 64 GB VRAM och cirka 1516 GB/s i minnesbandbredd.
Djupinlärning med stort minnesbehov
Kör PyTorch/CUDA-arbetsbelastningar som kräver stor minneskapacitet och beräkningskapacitet 8.0, utan att dela upp modeller mellan flera enheter.
Avancerade arbetsflöden för bildgenerering
Ladda flera stora diffusion-checkpoints och control nets samtidigt i ComfyUI inom det gemensamma minnesutrymmet på 64 GB.
Databehandling och simulering
Kör minnesintensiva datacenteruppgifter som drar nytta av hög minnesgenomströmning inom en effektbudget på 250 W.
Är det rätt GPU för dig?
Välj CMP 170HX när din arbetsbelastning begränsas av minneskapacitet och minnesbandbredd snarare än rå beräkningsprestanda med enkel precision. Välj en GPU med högre beräkningsgenomströmning om du behöver snabbare träningsiterationer, eller välj ett mindre konsumentkort om dina modeller inte behöver 64 GB VRAM.
Jämför med liknande GPU:er
Vanliga frågor
Passar CMP 170HX för LLM-inferens?
Ja, 64 GB VRAM och cirka 1516 GB/s i minnesbandbredd gör kortet väl lämpat för att läsa in och köra stora språkmodeller med mallar som vLLM och Ollama. Men eftersom det erbjuder cirka 12.1 TFLOPS beräkningsprestanda med enkel precision går promptbearbetningen långsammare än på datacenter-GPU:er med högre beräkningstäthet.
Hur står sig den här GPU:n jämfört med vanliga datacenteracceleratorer?
CMP 170HX erbjuder ett stort minne på 64 GB och hög minnesbandbredd, i nivå med vanliga Ampere-kort för datacenter, samtidigt som den har en TDP på 250 W. Den främsta kompromissen är en lägre beräkningsgenomströmning på cirka 12.1 TFLOPS, vilket gör kortet bättre lämpat för minnesbegränsade uppgifter än för beräkningstunga arbetsbelastningar.
Vilka programvarumiljöer finns tillgängliga för den här GPU:n?
Kortet stöder CUDA-beräkningskapacitet 8.0 och kan startas på ONIE med förkonfigurerade mallar för bland annat PyTorch/CUDA, vLLM, Ollama och ComfyUI. Du får också direkt SSH-åtkomst för att installera egna bibliotek och hantera din miljö.
Hur fungerar debiteringen när jag hyr CMP 170HX?
Instanser på ONIE debiteras per timme, så du betalar bara för den tid din GPU är aktiv.
Hyr CMP 170HX per timme
Skapa ett konto, välj en konfiguration och anslut via SSH. Faktureringen upphör när du tar bort GPU:n.
Hyr CMP 170HX