NVIDIA H100 NVL GPU-ын сағат бойынша жалға алыңыз
NVIDIA H100 NVL — Hopper архитектурасындағы дата-орталық GPU, 94 GB VRAM және compute capability 9.0 бар. Ол 400 Вт жылу шегінде шамамен 48.3 TFLOPS бірлік дәлдіктегі (single-precision) өнімділік пен шамамен 3381 GB/s жад жылдамдығын ұсынады. H100 NVL-ді ONIE платформасында сағаттық төлеммен, SSH қолжетімділігімен және PyTorch/CUDA, vLLM, Ollama және ComfyUI үшін дайын шаблондармен жалға алыңыз.
Сипаттамалары
Әр GPU-ның VRAM-ы
Архитектура
Есептеу мүмкіндігі
FP32 есептеу
Жад өткізу қабілеті
Қуат шегі
Қазіргі тізімдегі машиналар үшін инфрақұрылым провайдері берген мәндер; нақты өнімділік машинаға қарай өзгереді.
Қолжетімді конфигурациялар
Қоймадағы қор мен бағалар үнемі жаңартылып отырады. Соңғы баға тапсырыс берер алдында расталады.
Нақты бағалар жүктелуде…
H100 NVL неге жарайды
Үлкен тілдік модельдердің инференсі
vLLM немесе Ollama арқылы үлкен сыйымдылықтағы тілдік модельдерді 94 GB VRAM және шамамен 3381 GB/s жад жылдамдығын пайдаланып орналастырыңыз, tokens генерациясын жылдам жүргізу үшін.
Терең оқытуды нақты баптау
Hopper архитектурасының мүмкіндіктері мен compute capability 9.0 көмегімен PyTorch-та нейрондық желілерді оқытыңыз және нақты баптаңыз.
Жоғары ажыратымдылықтағы кескін генерациясы
Күрделі ComfyUI жұмыс процестерін және үлкен диффузиялық конвейерлерді жүйелік RAM-ға жүктемей, толық жадта іске қосыңыз.
Ғылыми есептеулер және модельдеу
Шамамен 48.3 TFLOPS бірлік дәлдіктегі есептеу қуатын пайдаланатын, жадты көп қажет ететін дата-орталық жұмыстарын орындаңыз.
Бұл сіз үшін дұрыс GPU ма?
Жұмыс жүктемелеріңіз стандартты дата-орталық карталар ұсынатыннан көп жадты, яғни 94 GB VRAM-ға дейін талап етсе, AI немесе есептеу жұмыстары үшін H100 NVL-ді таңдаңыз. Жеңіл инференс пен әзірлеу үшін шағын жұмыс станциясы немесе тұтынушылық GPU жақсырақ нұсқа болады, ал модельдеріңіз 94 GB-тан асып кетсе, көп GPU конфигурациясы немесе үлкенірек жад деңгейі қажет.
Ұқсас GPU-лармен салыстыру
Жиі қойылатын сұрақтар
H100 NVL LLM инференсі мен нақты баптауға жарай ма?
Иә, оның 94 GB VRAM және шамамен 3381 GB/s жад жылдамдығы кіші дата-орталық GPU-ларға сыймайтын үлкен тілдік модельдерге қызмет көрсету мен оларды нақты баптау үшін қолайлы етеді.
H100 NVL стандартты H100 нұсқаларымен қалай салыстырылады?
H100 NVL кеңейтілген 94 GB VRAM сыйымдылығын және 400 Вт қуат шегін ұсынады, бұл стандартты Hopper дата-орталық конфигурацияларымен салыстырғанда қосымша жад қорын береді.
Бұл GPU үшін ONIE платформасында қандай бағдарламалық шаблондар бар?
H100 NVL-ді PyTorch/CUDA, vLLM, Ollama және ComfyUI үшін алдын ала конфигурацияланған шаблондар арқылы орналастыруға болады, және олардың барлығы compute capability 9.0-ді қолдайды.
H100 NVL жалға алғанда төлем мен қолжетімділік қалай жұмыс істейді?
ONIE платформасындағы инстанцияларда сағаттық төлем қолданылады және сіз ортаңызды мен жұмыс процестеріңізді бірден басқару үшін тікелей SSH қолжетімділігін аласыз.
H100 NVL сағаттық жалға алыңыз
Аккаунт жасаңыз, конфигурацияны таңдаңыз және SSH арқылы қосылыңыз. GPU-ды жойғанда есептеу тоқтайды.
H100 NVL жалға алу