GPU Cloud · NVIDIA · Hopper

NVIDIA H100 NVL GPU በሰዓት ይከራዩ

NVIDIA H100 NVL በHopper አርክቴክቸር ላይ የተመሠረተ የዳታ ሴንተር GPU ሲሆን 94 GB VRAM እና compute capability 9.0 አለው። በ400 W የሙቀት ወሰን ውስጥ በግምት 48.3 TFLOPS የነጠላ-ትክክለኛነት (single-precision) አፈጻጸምና በግምት 3381 GB/s የማህደረ ትውስታ ባንድዊድዝ ያቀርባል። H100 NVL ን በONIE ላይ በሰዓት ክፍያ፣ በ SSH መዳረሻ እና ለ PyTorch/CUDA፣ vLLM፣ Ollama እና ComfyUI ዝግጁ በሆኑ ቴምፕሌቶች ይከራዩ።

H100 NVL ይከራዩ

ዝርዝር መግለጫዎች

በእያንዳንዱ GPU VRAM

94 GB

አርክቴክቸር

NVIDIA Hopper

ኮምፒውት ካፓቢሊቲ (Compute capability)

9.0

FP32 ኮምፒውት

≈ 48.3 TFLOPS

የማህደረ ትውስታ ባንድዊድዝ

≈ 3,381 GB/s

የኃይል ገደብ

400 W

እሴቶቹ አሁን በዝርዝር የቀረቡ ማሽኖች ላይ በመሠረተ ልማት አቅራቢው የተገለጹ ናቸው፤ ትክክለኛው አፈጻጸም ከማሽን ወደ ማሽን ይለያያል።

ይገኛሉ ያሉ ውቅሮች

የቀጥታ ክምችትና ዋጋዎች፣ ያለማቋረጥ የሚዘምኑ። የመጨረሻው ዋጋ ትዕዛዝ ከማስገባትዎ በፊት ይረጋገጣል።

የቀጥታ ዋጋዎችን በመጫን ላይ…

H100 NVL ለምን ይጠቅማል

የላርጅ ላንጉጅ ሞዴል (LLM) ኢንፈረንስ

ትላልቅ የቋንቋ ሞዴሎችን በvLLM ወይም Ollama ያሰማሩ፤ ፈጣን የtoken ማመንጨት ለማግኘት 94 GB VRAM እና በግምት 3381 GB/s የማህደረ ትውስታ ባንድዊድዝ ይጠቀማል።

Deep Learning Fine-Tuning

የHopper አርክቴክቸር ባህሪያትንና compute capability 9.0 በመጠቀም የነርቭ አውታረ መረቦችን በPyTorch ያሰለጥኑና ያስተካክሉ።

High-Resolution Image Generation

ውስብስብ የComfyUI የስራ ፍሰቶችንና ትላልቅ የdiffusion pipelines ወደ ሲስተም RAM ሳይወርዱ በማህደረ ትውስታ ውስጥ ያስኬዱ።

ሳይንሳዊ ኮምፒውቲንግ እና ሲሙሌሽን

በግምት 48.3 TFLOPS የነጠላ-ትክክለኛነት ስሌት ጥቅም የሚያገኙ ማህደረ ትውስታ-ተኮር የዳታ ሴንተር ስራዎችን ያከናውኑ።

ለእርስዎ ትክክለኛው GPU ነው?

የAI ወይም የስሌት ስራዎችዎ ከመደበኛ የዳታ ሴንተር ካርዶች በላይ ማህደረ ትውስታ ሲፈልጉ፣ እስከ 94 GB VRAM ድረስ፣ H100 NVL ን ይምረጡ። ቀላል inference እና ልማት ለማድረግ ትንሽ የworkstation ወይም የconsumer GPU የተሻለ ምርጫ ነው፤ ሞዴሎችዎ ከ94 GB በላይ ከሆኑ ደግሞ multi-GPU ማዋቀር ወይም ትልቅ የማህደረ ትውስታ ደረጃ ያስፈልጋል።

ከተመሳሳይ GPUዎች ጋር ያወዳድሩ

GPU	በእያንዳንዱ GPU VRAM	አርክቴክቸር	FP32 ኮምፒውት	ከ / በሰዓት	ዝርዝር
H100 NVL	94 GB	Hopper	≈ 48.3 TFLOPS	—
H100 SXM	80 GB	Hopper	≈ 53.5 TFLOPS	—	ዝርዝር
H200 NVL	140 GB	Hopper	≈ 48.3 TFLOPS	—	ዝርዝር
H100 PCIE	80 GB	Hopper	≈ 41 TFLOPS	—	ዝርዝር

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

H100 NVL ለLLM inference እና fine-tuning ተስማሚ ነው?

አዎ፤ 94 GB VRAM እና በግምት 3381 GB/s የማህደረ ትውስታ ባንድዊድዝ ትናንሽ የዳታ ሴንተር GPUs ላይ የማይገቡ ትላልቅ ቋንቋ ሞዴሎችን ለማገልገልና ለማስተካከል በጣም ተስማሚ ያደርገዋል።

H100 NVL ከመደበኛ H100 ስሪቶች ጋር እንዴት ይነጻጸራል?

H100 NVL የተስፋፋ 94 GB VRAM አቅምና 400 W የኃይል ወሰን ያቀርባል፤ ይህም ከመደበኛ Hopper የዳታ ሴንተር ውቅሮች ተጨማሪ የማህደረ ትውስታ ክፍል ይሰጣል።

ለዚህ GPU በONIE ላይ ምን ዓይነት ሶፍትዌር ቴምፕሌቶች ይገኛሉ?

H100 NVL ን ለPyTorch/CUDA፣ vLLM፣ Ollama እና ComfyUI አስቀድመው በተዋቀሩ ቴምፕሌቶች ማሰማራት ይችላሉ፤ ሁሉም compute capability 9.0ን ይደግፋሉ።

H100 NVL ሲከራዩ ክፍያና መዳረሻ እንዴት ይሰራል?

በONIE ላይ ያሉ ኢንስታንሶች በሰዓት ክፍያ ይከፍላሉ፤ አካባቢዎን እና የስራ ፍሰቶችዎን ወዲያውኑ ለማስተዳደር ቀጥተኛ የ SSH መዳረሻ ይሰጣሉ።

H100 NVLን በሰዓት ይከራዩ

መለያ ይፍጠሩ፣ ውቅር ይምረጡ እና በSSH ያገናኙ። GPUውን ሲሰርዙ ክፍያው ይቆማል።

H100 NVL ይከራዩ

ሁሉም GPU-ዎች →