Noleggia GPU NVIDIA H200 NVL a ore
La NVIDIA H200 NVL è una GPU per data center basata sull'architettura Hopper, progettata per carichi di lavoro ad alto consumo di memoria, che offre 140 GB di VRAM e una larghezza di banda della memoria di circa 3884 GB/s. Opera con un assorbimento energetico di 600 W, supporta la compute capability 9.0 ed eroga circa 48.3 TFLOPS di potenza di calcolo standard in virgola mobile. È possibile distribuire questo processore su ONIE con fatturazione oraria, accesso SSH diretto e modelli pronti all'uso.
Specifiche
VRAM per GPU
Architettura
Capacità di calcolo
Calcolo FP32
Larghezza di banda della memoria
Limite di potenza
Valori dichiarati dal provider dell'infrastruttura per le macchine attualmente in elenco; le prestazioni reali variano in base alla macchina.
Configurazioni disponibili
Disponibilità e prezzi in tempo reale, aggiornati costantemente. Il prezzo finale viene confermato prima dell'ordine.
Caricamento dei prezzi in tempo reale…
A cosa è adatta la H200 NVL
Inferenza di modelli linguistici di grandi dimensioni (LLM)
Esegui modelli di grandi dimensioni in memoria senza sharding, sfruttando la capacità di 140 GB di VRAM e circa 3884 GB/s di larghezza di banda della memoria.
Fine-tuning e addestramento di modelli
Addestra e adatta modelli di deep learning utilizzando la compute capability 9.0 di Hopper e l'ampia memoria GPU per batch di grandi dimensioni.
Elaborazione batch ad alto throughput
Elabora set di dati di grandi dimensioni e finestre di contesto estese in modo efficiente utilizzando modelli preconfigurati per PyTorch/CUDA, vLLM o Ollama.
Calcolo scientifico e simulazione
Esegui simulazioni complesse per data center che richiedono circa 48.3 TFLOPS di prestazioni standard in virgola mobile e un'elevata quantità di memoria integrata.
È la GPU adatta alle tue esigenze?
Scegli la H200 NVL quando il collo di bottiglia principale è rappresentato dalla capacità della VRAM e dalla larghezza di banda della memoria, in particolare per ospitare modelli di grandi dimensioni su una singola scheda. Per inferenze più leggere, generazione di immagini standard o attività di sviluppo che non richiedono 140 GB di memoria, una GPU consumer o per workstation più piccola rappresenta una scelta più pratica.
Confronta con GPU simili
Domande frequenti
Perché scegliere la H200 NVL rispetto a una GPU Hopper standard?
La H200 NVL offre 140 GB di VRAM e circa 3884 GB/s di larghezza di banda della memoria, valori superiori rispetto alla capacità e alla larghezza di banda delle schede di generazione Hopper precedenti. Ciò consente di allocare modelli e finestre di contesto più grandi su una singola GPU.
La H200 NVL è adatta per il serving di LLM con vLLM o Ollama?
Sì, il pool di memoria da 140 GB e l'elevata larghezza di banda della memoria la rendono particolarmente indicata per il serving di modelli linguistici di grandi dimensioni. ONIE fornisce modelli pronti all'uso sia per vLLM che per Ollama per consentire un avvio rapido.
Quali ambienti software e metodi di accesso sono disponibili?
Ogni istanza include l'accesso SSH completo per configurazioni personalizzate. È inoltre possibile avviare istanze con modelli preinstallati, tra cui PyTorch/CUDA, vLLM, Ollama e ComfyUI.
Come funziona la fatturazione per la H200 NVL su ONIE?
Le istanze vengono fatturate su base oraria. Si paga solo per il tempo in cui l'istanza H200 NVL rimane attiva.
Noleggia la H200 NVL a ore
Crea un account, scegli una configurazione e connettiti tramite SSH. La fatturazione si interrompe quando elimini la GPU.
Noleggia H200 NVL