GPU Cloud · NVIDIA · Hopper

Louez un GPU NVIDIA H100 NVL à l’heure

Le NVIDIA H100 NVL est un GPU de centre de données à architecture Hopper, équipé de 94 GB de VRAM et d'une capacité de calcul de 9.0. Il offre environ 48.3 TFLOPS de performances en simple précision et environ 3381 GB/s de bande passante mémoire pour une enveloppe thermique de 400 W. Louez le H100 NVL sur ONIE avec une facturation à l'heure, un accès SSH et des modèles prêts à l'emploi pour PyTorch/CUDA, vLLM, Ollama et ComfyUI.

Spécifications

VRAM par GPU

94 GB

Architecture

NVIDIA Hopper

Capacité de calcul

9.0

Calcul FP32

≈ 48.3 TFLOPS

Bande passante mémoire

≈ 3,381 GB/s

Limite de puissance

400 W

Valeurs communiquées par le fournisseur d’infrastructure pour les machines actuellement répertoriées ; les performances réelles varient selon la machine.

Configurations disponibles

Stock et tarifs en temps réel, mis à jour en continu. Le prix final est confirmé avant votre commande.

Chargement des tarifs en temps réel…

Cas d’usage idéaux pour le H100 NVL

Inférence de grands modèles de langage

Déployez des modèles de langage à haute capacité avec vLLM ou Ollama en utilisant 94 GB de VRAM et environ 3381 GB/s de bande passante mémoire pour une génération rapide de jetons.

Ajustement fin d'apprentissage profond

Entraînez et affinez des réseaux de neurones dans PyTorch grâce aux fonctionnalités de l'architecture Hopper et à une capacité de calcul de 9.0.

Génération d'images haute résolution

Exécutez des flux de travail ComfyUI complexes et de grands pipelines de diffusion directement en mémoire, sans déchargement vers la RAM système.

Calcul scientifique et simulation

Exécutez des charges de travail de centre de données gourmandes en mémoire qui tirent parti d'environ 48.3 TFLOPS de calcul en simple précision.

Est-ce le bon GPU pour vous ?

Choisissez le H100 NVL lorsque vos charges de travail d'AI ou de calcul nécessitent plus de mémoire que ce que proposent les cartes de centre de données standard, jusqu'à 94 GB de VRAM. Un GPU de station de travail plus modeste ou grand public sera plus adapté à l'inférence légère et au développement, tandis qu'une configuration multi-GPU ou un palier de mémoire supérieur sera nécessaire si vos modèles dépassent 94 GB.

Comparer avec des GPU similaires

GPUVRAM par GPUArchitectureCalcul FP32À partir de / heureDétails
H100 NVL94 GBHopper≈ 48.3 TFLOPS—
H100 SXM80 GBHopper≈ 53.5 TFLOPS—Détails
H200 NVL140 GBHopper≈ 48.3 TFLOPS—Détails
H100 PCIE80 GBHopper≈ 41 TFLOPS—Détails

Questions fréquentes

Le H100 NVL est-il adapté à l'inférence et à l'ajustement fin de LLM ?

Oui, ses 94 GB de VRAM et sa bande passante mémoire d'environ 3381 GB/s le rendent particulièrement adapté au déploiement et à l'ajustement fin de grands modèles de langage qui ne tiennent pas sur des GPU de centre de données plus petits.

Comment le H100 NVL se compare-t-il aux variantes H100 standard ?

Le H100 NVL offre une capacité étendue de 94 GB de VRAM et une enveloppe thermique de 400 W, offrant ainsi une marge de mémoire supplémentaire par rapport aux configurations de centre de données Hopper standard.

Quels modèles logiciels sont disponibles sur ONIE pour ce GPU ?

Vous pouvez déployer le H100 NVL à l'aide de modèles préconfigurés pour PyTorch/CUDA, vLLM, Ollama et ComfyUI, tous compatibles avec la capacité de calcul 9.0.

Comment fonctionnent la facturation et l'accès lors de la location du H100 NVL ?

Les instances sur ONIE utilisent une facturation à l'heure et fournissent un accès SSH direct afin que vous puissiez gérer votre environnement et vos flux de travail immédiatement.

Louez le H100 NVL à l’heure

Créez un compte, choisissez une configuration et connectez-vous via SSH. La facturation s’arrête lorsque vous supprimez le GPU.

Louer un H100 NVL

Tous les GPU →