Noleggia GPU NVIDIA H100 NVL a ore
La NVIDIA H100 NVL è una GPU da data center con architettura Hopper dotata di 94 GB di VRAM e compute capability 9.0. Offre circa 48.3 TFLOPS di prestazioni a precisione singola e circa 3381 GB/s di larghezza di banda della memoria con un consumo termico di 400 W. Noleggia la H100 NVL su ONIE con fatturazione oraria, accesso SSH e modelli pronti all'uso per PyTorch/CUDA, vLLM, Ollama e ComfyUI.
Specifiche
VRAM per GPU
Architettura
Capacità di calcolo
Calcolo FP32
Larghezza di banda della memoria
Limite di potenza
Valori dichiarati dal provider dell'infrastruttura per le macchine attualmente in elenco; le prestazioni reali variano in base alla macchina.
Configurazioni disponibili
Disponibilità e prezzi in tempo reale, aggiornati costantemente. Il prezzo finale viene confermato prima dell'ordine.
Caricamento dei prezzi in tempo reale…
A cosa è adatta la H100 NVL
Inferenza di modelli linguistici di grandi dimensioni
Distribuisci modelli linguistici ad alta capacità con vLLM o Ollama sfruttando 94 GB di VRAM e circa 3381 GB/s di larghezza di banda della memoria per una rapida generazione di token.
Fine-tuning per il deep learning
Addestra e perfeziona reti neurali in PyTorch utilizzando le funzionalità dell'architettura Hopper e la compute capability 9.0.
Generazione di immagini ad alta risoluzione
Esegui flussi di lavoro ComfyUI complessi e pipeline di diffusione di grandi dimensioni interamente in memoria, senza scaricare dati sulla RAM di sistema.
Calcolo scientifico e simulazione
Esegui carichi di lavoro da data center ad alto utilizzo di memoria che traggono vantaggio da circa 48.3 TFLOPS di calcolo a precisione singola.
È la GPU adatta alle tue esigenze?
Scegli la H100 NVL quando i carichi di lavoro AI o di calcolo richiedono più memoria rispetto a quella offerta dalle schede da data center standard, fino a 94 GB di VRAM. Una GPU da workstation o consumer più piccola è una scelta migliore per l'inferenza leggera e lo sviluppo, mentre una configurazione multi-GPU o un livello di memoria superiore sono necessari se i modelli superano i 94 GB.
Confronta con GPU simili
Domande frequenti
La H100 NVL è adatta per l'inferenza e il fine-tuning di LLM?
Sì, i suoi 94 GB di VRAM e circa 3381 GB/s di larghezza di banda della memoria la rendono ideale per l'esecuzione e il fine-tuning di modelli linguistici di grandi dimensioni che non rientrano nella memoria di GPU da data center più piccole.
Come si confronta la H100 NVL con le varianti H100 standard?
La H100 NVL offre una capacità VRAM estesa a 94 GB e un consumo energetico di 400 W, garantendo un margine di memoria aggiuntivo rispetto alle configurazioni da data center Hopper standard.
Quali modelli software sono disponibili su ONIE per questa GPU?
È possibile distribuire la H100 NVL utilizzando modelli preconfigurati per PyTorch/CUDA, vLLM, Ollama e ComfyUI, tutti con supporto per compute capability 9.0.
Come funzionano la fatturazione e l'accesso quando si noleggia la H100 NVL?
Le istanze su ONIE utilizzano la fatturazione oraria e forniscono accesso SSH diretto per consentire la gestione immediata dell'ambiente e dei flussi di lavoro.
Noleggia la H100 NVL a ore
Crea un account, scegli una configurazione e connettiti tramite SSH. La fatturazione si interrompe quando elimini la GPU.
Noleggia H100 NVL