GPU Cloud · NVIDIA · Hopper

Noleggia GPU NVIDIA H100 PCIE a ore

La NVIDIA H100 PCIE è una GPU per datacenter con architettura Hopper progettata per carichi di lavoro impegnativi di deep learning e calcolo scientifico. Offre 80 GB di VRAM, circa 1760 GB/s di larghezza di banda della memoria e circa 41.0 TFLOPS di calcolo standard in virgola mobile con un consumo energetico di 350 W. Su ONIE è possibile distribuire questo acceleratore con compute capability 9.0, fatturazione oraria e accesso SSH completo.

Specifiche

VRAM per GPU

80 GB

Architettura

NVIDIA Hopper

Capacità di calcolo

9.0

Calcolo FP32

≈ 41 TFLOPS

Larghezza di banda della memoria

≈ 1,760 GB/s

Limite di potenza

350 W

Valori dichiarati dal provider dell'infrastruttura per le macchine attualmente in elenco; le prestazioni reali variano in base alla macchina.

Configurazioni disponibili

Disponibilità e prezzi in tempo reale, aggiornati costantemente. Il prezzo finale viene confermato prima dell'ordine.

Caricamento dei prezzi in tempo reale…

A cosa è adatta la H100 PCIE

Inferenza di modelli linguistici di grandi dimensioni

Esegui modelli linguistici di grandi dimensioni in memoria sfruttando gli 80 GB di VRAM e l'elevata larghezza di banda della memoria, insieme a modelli preconfigurati per vLLM o Ollama.

Fine-tuning e addestramento di modelli

Addestra o affina reti neurali profonde utilizzando l'architettura Hopper e ambienti PyTorch/CUDA pronti all'uso.

Generazione di immagini in batch

Esegui pipeline di diffusione ad alto throughput e flussi di lavoro ComfyUI complessi che beneficiano di un'ampia capacità di memoria.

Data science e simulazione

Esegui simulazioni ad alta intensità di calcolo e attività di elaborazione dati con circa 41.0 TFLOPS di prestazioni standard in virgola mobile e circa 1760 GB/s di throughput di memoria.

È la GPU adatta alle tue esigenze?

La H100 PCIE è indicata quando i carichi di lavoro richiedono 80 GB di VRAM, larghezza di banda della memoria di livello datacenter e le funzionalità dell'architettura Hopper con compute capability 9.0. Per inferenze più leggere o modelli più piccoli, una GPU consumer o per workstation con meno VRAM risulta più conveniente, mentre requisiti di throughput estremi possono giustificare una variante datacenter basata su SXM.

Confronta con GPU simili

GPUVRAM per GPUArchitetturaCalcolo FP32Da / oraDettagli
H100 PCIE80 GBHopper≈ 41 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—Dettagli
H100 SXM80 GBHopper≈ 53.5 TFLOPS—Dettagli
RTX A600048 GBAmpere≈ 36.1 TFLOPS—Dettagli

Domande frequenti

La H100 PCIE è adatta per il fine-tuning e l'inferenza di LLM?

Sì, i suoi 80 GB di VRAM e circa 1760 GB/s di larghezza di banda della memoria la rendono ideale per l'hosting e l'addestramento di modelli di grandi dimensioni. È possibile iniziare subito utilizzando modelli preconfigurati per PyTorch/CUDA, vLLM o Ollama.

Come si confronta la H100 PCIE con le varianti SXM o le GPU per workstation più piccole?

La H100 PCIE opera con un TDP di 350 W, offrendo un consumo energetico inferiore e compatibilità PCIe standard rispetto alle varianti SXM per datacenter a wattaggio più elevato. Rispetto alle schede per workstation o consumer, fornisce una quantità di VRAM significativamente superiore (80 GB) e una maggiore larghezza di banda della memoria.

Quale supporto software e compute capability offre questa GPU?

Essendo basata sull'architettura NVIDIA Hopper, la H100 PCIE supporta CUDA compute capability 9.0. È possibile avviare istanze con modelli pronti all'uso tra cui PyTorch/CUDA e ComfyUI, oppure configurare il proprio stack tramite accesso SSH.

Come funziona la fatturazione per le istanze H100 PCIE su ONIE?

Le istanze su ONIE utilizzano una semplice fatturazione oraria, per cui si paga solo per il tempo in cui la GPU è attiva. L'accesso SSH completo è incluso in ogni distribuzione.

Noleggia la H100 PCIE a ore

Crea un account, scegli una configurazione e connettiti tramite SSH. La fatturazione si interrompe quando elimini la GPU.

Noleggia H100 PCIE

Tutte le GPU →