Louez un GPU NVIDIA CMP 170HX à l’heure
Le NVIDIA CMP 170HX est un GPU pour centre de données à architecture Ampere équipé de 64 GB de VRAM et d'un TDP de 250 W. Il offre environ 1516 GB/s de bande passante mémoire ainsi qu'environ 12.1 TFLOPS de calcul en simple précision avec une capacité de calcul 8.0. Sur ONIE, vous pouvez déployer cette carte avec une facturation à l'heure, un accès SSH complet et des modèles prêts à l'emploi pour PyTorch/CUDA, vLLM, Ollama et ComfyUI.
Spécifications
VRAM par GPU
Architecture
Capacité de calcul
Calcul FP32
Bande passante mémoire
Limite de puissance
Valeurs communiquées par le fournisseur d’infrastructure pour les machines actuellement répertoriées ; les performances réelles varient selon la machine.
Configurations disponibles
Stock et tarifs en temps réel, mis à jour en continu. Le prix final est confirmé avant votre commande.
Chargement des tarifs en temps réel…
Cas d’usage idéaux pour le CMP 170HX
Inférence LLM limitée par la mémoire
Déployez de grands modèles de langage via vLLM ou Ollama en tirant parti de la capacité de 64 GB de VRAM et d'environ 1516 GB/s de bande passante mémoire.
Deep Learning à haute capacité mémoire
Exécutez des charges de travail PyTorch/CUDA nécessitant une capacité mémoire importante et une capacité de calcul 8.0 sans répartir les modèles sur plusieurs périphériques.
Flux de travail complexes de génération d'images
Chargez simultanément plusieurs grands points de contrôle de diffusion et ControlNets dans ComfyUI au sein de l'espace mémoire de 64 GB.
Traitement de données et simulation
Exécutez des tâches de centre de données gourmandes en mémoire qui bénéficient d'un débit mémoire élevé dans une enveloppe thermique de 250 W.
Est-ce le bon GPU pour vous ?
Choisissez le CMP 170HX lorsque votre charge de travail est limitée par la capacité et la bande passante mémoire plutôt que par la puissance de calcul brute en simple précision. Optez pour un GPU offrant un débit de calcul supérieur si vous avez besoin d'itérations d'entraînement plus rapides, ou sélectionnez une carte grand public plus modeste si vos modèles ne nécessitent pas 64 GB de VRAM.
Comparer avec des GPU similaires
Questions fréquentes
Le CMP 170HX est-il adapté à l'inférence LLM ?
Oui, ses 64 GB de VRAM et ses quelque 1516 GB/s de bande passante mémoire le rendent bien adapté au chargement et au déploiement de grands modèles de langage à l'aide de modèles comme vLLM et Ollama. Cependant, comme il fournit environ 12.1 TFLOPS de calcul en simple précision, le traitement des requêtes sera plus lent que sur des GPU de centre de données offrant une densité de calcul supérieure.
Comment ce GPU se compare-t-il aux accélérateurs de centre de données standards ?
Le CMP 170HX offre une grande mémoire tampon de 64 GB et une bande passante mémoire élevée similaires aux cartes Ampere standards pour centres de données, tout en fonctionnant à un TDP de 250 W. Son principal compromis réside dans un débit de calcul inférieur d'environ 12.1 TFLOPS, ce qui le rend plus approprié pour les tâches limitées par la mémoire que pour les charges de travail de calcul intensif.
Quels environnements logiciels sont disponibles pour ce GPU ?
La carte prend en charge la capacité de calcul CUDA 8.0 et peut être lancée sur ONIE à l'aide de modèles préconfigurés incluant PyTorch/CUDA, vLLM, Ollama et ComfyUI. Vous bénéficiez également d'un accès SSH direct pour installer des bibliothèques personnalisées et gérer votre environnement.
Comment fonctionne la facturation lors de la location du CMP 170HX ?
Les instances sur ONIE utilisent une facturation à l'heure, vous ne payez donc que pour la durée pendant laquelle votre GPU reste actif.
Louez le CMP 170HX à l’heure
Créez un compte, choisissez une configuration et connectez-vous via SSH. La facturation s’arrête lorsque vous supprimez le GPU.
Louer un CMP 170HX