Louez un GPU NVIDIA H200 NVL à l’heure
Le NVIDIA H200 NVL est un GPU de centre de données à architecture Hopper conçu pour les charges de travail gourmandes en mémoire, offrant 140 GB de VRAM et une bande passante mémoire d'environ 3884 GB/s. Il fonctionne avec une enveloppe thermique de 600 W, prend en charge la capacité de calcul 9.0 et délivre environ 48.3 TFLOPS de calcul en virgule flottante standard. Vous pouvez déployer ce processeur sur ONIE avec une facturation à l'heure, un accès SSH direct et des modèles prêts à l'emploi.
Spécifications
VRAM par GPU
Architecture
Capacité de calcul
Calcul FP32
Bande passante mémoire
Limite de puissance
Valeurs communiquées par le fournisseur d’infrastructure pour les machines actuellement répertoriées ; les performances réelles varient selon la machine.
Configurations disponibles
Stock et tarifs en temps réel, mis à jour en continu. Le prix final est confirmé avant votre commande.
Chargement des tarifs en temps réel…
Cas d’usage idéaux pour le H200 NVL
Inférence de grands modèles de langage
Exécutez de grands modèles en mémoire sans partitionnement, en tirant parti de la capacité de 140 GB de VRAM et d'environ 3884 GB/s de bande passante mémoire.
Affinage et entraînement de modèles
Entraînez et adaptez des modèles d'apprentissage profond à l'aide de la capacité de calcul Hopper 9.0 et d'une vaste mémoire GPU pour des lots de grande taille.
Traitement par lots à haut débit
Traitez efficacement d'immenses ensembles de données et de longues fenêtres de contexte à l'aide de modèles PyTorch/CUDA, vLLM ou Ollama préconfigurés.
Calcul scientifique et simulation
Exécutez des simulations complexes de centre de données qui nécessitent environ 48.3 TFLOPS de performances en virgule flottante standard et une importante mémoire embarquée.
Est-ce le bon GPU pour vous ?
Choisissez le H200 NVL lorsque votre principal goulot d'étranglement est la capacité de VRAM et la bande passante mémoire, en particulier pour l'hébergement de grands modèles sur une seule carte. Si vous exécutez une inférence plus légère, de la génération d'images standard ou des tâches de développement qui ne nécessitent pas 140 GB de mémoire, un GPU de station de travail ou grand public plus modeste constitue un choix plus judicieux.
Comparer avec des GPU similaires
Questions fréquentes
Pourquoi choisir le H200 NVL plutôt qu'un GPU Hopper standard ?
Le H200 NVL offre 140 GB de VRAM et environ 3884 GB/s de bande passante mémoire, ce qui est supérieur à la capacité et à la bande passante mémoire des cartes de génération Hopper précédentes. Cela permet de loger de plus grands modèles et des fenêtres de contexte plus larges sur un seul GPU.
Le H200 NVL est-il adapté au service de LLM avec vLLM ou Ollama ?
Oui, le pool de mémoire de 140 GB et la bande passante mémoire élevée le rendent particulièrement adapté au service de grands modèles de langage. ONIE propose des modèles prêts à l'emploi pour vLLM et Ollama afin de vous aider à démarrer rapidement.
Quels sont les environnements logiciels et les méthodes d'accès disponibles ?
Chaque instance inclut un accès SSH complet pour une configuration personnalisée. Vous pouvez également lancer des instances avec des modèles préinstallés incluant PyTorch/CUDA, vLLM, Ollama et ComfyUI.
Comment fonctionne la facturation pour le H200 NVL sur ONIE ?
Les instances sont facturées à l'heure. Vous ne payez que pour la durée pendant laquelle votre instance H200 NVL est active.
Louez le H200 NVL à l’heure
Créez un compte, choisissez une configuration et connectez-vous via SSH. La facturation s’arrête lorsque vous supprimez le GPU.
Louer un H200 NVL