ይግቡ
GPU Cloud · NVIDIA · Hopper

NVIDIA H200 NVL GPU በሰዓት ይከራዩ

NVIDIA H200 NVL ለሂደት-ተኮር ስራዎች የተዘጋጀ የHopper ስነ-ሕንፃ የመረጃ ማዕከል GPU ነው። 140 GB VRAM እና ወደ 3884 GB/s የማስታወሻ ባንድዊድዝ ይሰጣል። በ600 W የኃይል ወሰን ይሰራል፣ compute capability 9.0 ን ይደግፋል፣ እና ወደ 48.3 TFLOPS መደበኛ ተንሳፋፊ-ነጥብ ስሌት ያቀርባል። ይህን ፕሮሰሰር በONIE ላይ በሰዓት ክፍያ፣ ቀጥተኛ SSH መዳረሻ እና ዝግጁ templates ማሰማራት ይችላሉ።

H200 NVL ይከራዩ

ዝርዝር መግለጫዎች

በእያንዳንዱ GPU VRAM

140 GB

አርክቴክቸር

NVIDIA Hopper

ኮምፒውት ካፓቢሊቲ (Compute capability)

9.0

FP32 ኮምፒውት

≈ 48.3 TFLOPS

የማህደረ ትውስታ ባንድዊድዝ

≈ 3,884 GB/s

የኃይል ገደብ

600 W

እሴቶቹ አሁን በዝርዝር የቀረቡ ማሽኖች ላይ በመሠረተ ልማት አቅራቢው የተገለጹ ናቸው፤ ትክክለኛው አፈጻጸም ከማሽን ወደ ማሽን ይለያያል።

ይገኛሉ ያሉ ውቅሮች

የቀጥታ ክምችትና ዋጋዎች፣ ያለማቋረጥ የሚዘምኑ። የመጨረሻው ዋጋ ትዕዛዝ ከማስገባትዎ በፊት ይረጋገጣል።

የቀጥታ ዋጋዎችን በመጫን ላይ…

H200 NVL ለምን ይጠቅማል

Large Language Model ኢንፈረንስ

የ140 GB VRAM አቅምን እና ወደ 3884 GB/s የማስታወሻ ባንድዊድዝን በመጠቀም ትላልቅ ሞዴሎችን sharding ሳያስፈልግ በማስታወሻ ውስጥ ያሂዱ።

የሞዴል Fine-Tuning እና ስልጠና

Hopper compute capability 9.0 እና ለትላልቅ batch መጠኖች የሚበቃ የGPU ማስታወሻ በመጠቀም ጥልቅ ትምህርት ሞዴሎችን ያሰለጥኑ እና ያስተካክሉ።

ከፍተኛ-ውጤት ያለው የባች ሂደት

አስቀድሞ በተዋቀሩ PyTorch/CUDA፣ vLLM ወይም Ollama templates በመጠቀም ግዙፍ የመረጃ ስብስቦችንና ረጅም context windows በብቃት ያስኬዱ።

ሳይንሳዊ ስሌትና ማስመሰል

ወደ 48.3 TFLOPS መደበኛ ተንሳፋፊ-ነጥብ አፈጻጸምና ከፍተኛ የቦርድ ላይ ማስታወሻ የሚፈልጉ ውስብስብ የመረጃ ማዕከል ማስመሰሎችን ያከናውኑ።

ለእርስዎ ትክክለኛው GPU ነው?

ዋናው ማነቆዎ VRAM አቅምና የማስታወሻ ባንድዊድዝ ሲሆን በተለይም ትላልቅ ሞዴሎችን በአንድ ካርድ ላይ ለማስተናገድ H200 NVL ይምረጡ። ቀለል ያለ ኢንፈረንስ፣ መደበኛ የምስል ማመንጨት ወይም 140 GB ማስታወሻ የማያስፈልጋቸው የልማት ስራዎችን እየሰሩ ከሆነ ትንሽ workstation ወይም consumer GPU የበለጠ ተግባራዊ ምርጫ ነው።

ከተመሳሳይ GPUዎች ጋር ያወዳድሩ

GPUበእያንዳንዱ GPU VRAMአርክቴክቸርFP32 ኮምፒውትከ / በሰዓትዝርዝር
H200 NVL140 GBHopper≈ 48.3 TFLOPS—
H100 NVL94 GBHopper≈ 48.3 TFLOPS—ዝርዝር
H100 SXM80 GBHopper≈ 53.5 TFLOPS—ዝርዝር
H100 PCIE80 GBHopper≈ 41 TFLOPS—ዝርዝር

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

ከመደበኛው Hopper GPU ይልቅ H200 NVL ለምን ይመረጣል?

H200 NVL 140 GB VRAM እና ወደ 3884 GB/s የማስታወሻ ባንድዊድዝ ያቀርባል፤ ይህም ከቀደሙት Hopper ትውልድ ካርዶች የማስታወሻ አቅምና ባንድዊድዝ ከፍ ያለ ነው። ይህ ትላልቅ ሞዴሎችንና context windows በአንድ GPU ላይ እንዲገቡ ያስችላል።

H200 NVL ለ vLLM ወይም Ollama LLM ማቅረብ ተስማሚ ነው?

አዎ፣ 140 GB የማስታወሻ ገንዳና ከፍተኛ የማስታወሻ ባንድዊድዝ ትላልቅ ቋንቋ ሞዴሎችን ለማቅረብ በጣም ተስማሚ ያደርገዋል። ONIE ለvLLM እና ለOllama ዝግጁ templates ያቀርባል፤ ይህም በፍጥነት ለመጀመር ይረዳዎታል።

ምን አይነት ሶፍትዌር አካባቢዎችና የመዳረሻ መንገዶች አሉ?

እያንዳንዱ instance ለብጁ ውቅር ሙሉ SSH መዳረሻ ያካትታል። እንዲሁም PyTorch/CUDA፣ vLLM፣ Ollama እና ComfyUI ጨምሮ አስቀድመው የተጫኑ templates በመጠቀም instances ማስጀመር ይችላሉ።

በONIE ላይ የH200 NVL ክፍያ እንዴት ይሰራል?

Instances በሰዓት ክፍያ ይከፈላቸዋል። የH200 NVL instance ንቁ በሆነበት ጊዜ ብቻ ይከፍላሉ።

H200 NVLን በሰዓት ይከራዩ

መለያ ይፍጠሩ፣ ውቅር ይምረጡ እና በSSH ያገናኙ። GPUውን ሲሰርዙ ክፍያው ይቆማል።

H200 NVL ይከራዩ

ሁሉም GPU-ዎች →