Noleggia GPU NVIDIA H100 SXM a ore
La NVIDIA H100 SXM è una GPU per data center con architettura Hopper dotata di 80 GB di VRAM e un assorbimento energetico di 700 W. Offre circa 53.5 TFLOPS di calcolo in virgola mobile standard e una larghezza di banda della memoria di circa 2869 GB/s, con supporto per CUDA compute capability 9.0. Noleggiala su ONIE con fatturazione oraria, accesso SSH completo e modelli pronti all'uso per PyTorch/CUDA, vLLM, Ollama e ComfyUI.
Specifiche
VRAM per GPU
Architettura
Capacità di calcolo
Calcolo FP32
Larghezza di banda della memoria
Limite di potenza
Valori dichiarati dal provider dell'infrastruttura per le macchine attualmente in elenco; le prestazioni reali variano in base alla macchina.
Configurazioni disponibili
Disponibilità e prezzi in tempo reale, aggiornati costantemente. Il prezzo finale viene confermato prima dell'ordine.
Caricamento dei prezzi in tempo reale…
A cosa è adatta la H100 SXM
Inferenza di modelli linguistici di grandi dimensioni (LLM)
Distribuisci in produzione modelli linguistici complessi sfruttando la capacità di 80 GB di VRAM e circa 2869 GB/s di larghezza di banda della memoria tramite i modelli vLLM o Ollama.
Fine-tuning per il Deep Learning
Addestra e affina reti neurali sfruttando l'architettura Hopper e la CUDA compute capability 9.0 con ambienti PyTorch/CUDA preconfigurati.
Elaborazione batch ad alto throughput
Esegui carichi di lavoro intensivi di elaborazione dati e simulazione che traggono vantaggio da circa 53.5 TFLOPS di prestazioni di calcolo in un formato per data center da 700 W.
Flussi di lavoro multimediali generativi complessi
Esegui pipeline ComfyUI complesse e modelli di diffusione con batch di grandi dimensioni che rientrano comodamente nel pool di memoria da 80 GB.
È la GPU adatta alle tue esigenze?
Scegli la H100 SXM quando i carichi di lavoro di addestramento o inferenza richiedono 80 GB di memoria per data center ad alta larghezza di banda e le funzionalità dell'architettura Hopper. Una GPU consumer o per workstation più piccola rappresenta una scelta più pratica per lo sviluppo leggero o per modelli di dimensioni ridotte, mentre una GPU per data center più recente o di maggiore capacità è preferibile se una singola istanza non riesce a contenere l'intero modello in 80 GB di VRAM.
Confronta con GPU simili
Domande frequenti
La H100 SXM è adatta per il fine-tuning e l'inferenza di LLM?
Sì, i suoi 80 GB di VRAM e la larghezza di banda della memoria di circa 2869 GB/s la rendono ideale sia per l'esecuzione sia per il fine-tuning di modelli linguistici di grandi dimensioni. È possibile iniziare subito su ONIE utilizzando modelli pronti all'uso per vLLM, Ollama o PyTorch/CUDA.
Come si posiziona la variante SXM rispetto alle GPU per workstation o per data center a basso consumo?
La H100 SXM opera a una potenza termica di progetto (TDP) di 700 W, consentendo di sostenere prestazioni di calcolo e larghezza di banda della memoria superiori rispetto alle varianti PCIe per data center o alle schede per workstation. Se il carico di lavoro non satura circa 53.5 TFLOPS di calcolo o 80 GB di memoria, una GPU più piccola potrebbe essere sufficiente.
Quale compatibilità software fornisce la CUDA compute capability 9.0?
La compute capability 9.0 indica il supporto hardware per le istruzioni e le funzionalità dell'architettura NVIDIA Hopper. I nostri modelli PyTorch/CUDA preconfigurati sono pronti per sfruttare questo hardware senza necessità di configurare manualmente i driver.
Come funzionano la fatturazione e l'accesso alle istanze su ONIE?
Le istanze vengono fatturate su base oraria per la durata del noleggio. Una volta distribuita l'istanza, è possibile connettersi direttamente all'ambiente tramite accesso SSH o interagire con strumenti preinstallati come ComfyUI.
Noleggia la H100 SXM a ore
Crea un account, scegli una configurazione e connettiti tramite SSH. La fatturazione si interrompe quando elimini la GPU.
Noleggia H100 SXM