Վարձակալեք NVIDIA H100 NVL GPU ժամավճարով
NVIDIA H100 NVL-ը Hopper ճարտարապետությամբ տվյալների կենտրոնի GPU է, որը հագեցած է 94 ԳԲ VRAM-ով և compute capability 9.0-ով։ Այն ապահովում է մոտ 48.3 TFLOPS single-precision արդյունավետություն և մոտ 3381 ԳԲ/վ հիշողության թողունակություն 400 Վտ ջերմային սահմանաչափի շրջանակում։ Վարձակալեք H100 NVL-ը ONIE-ում՝ ժամավճարային հաշվարկով, SSH մուտքով և պատրաստի կաղապարներով PyTorch/CUDA, vLLM, Ollama և ComfyUI համար։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար H100 NVL-ը
Մեծ լեզվական մոդելների inference
Տեղակայեք մեծ հզորության լեզվական մոդելներ vLLM-ով կամ Ollama-ով՝ օգտագործելով 94 ԳԲ VRAM-ը և մոտ 3381 ԳԲ/վ հիշողության թողունակությունը արագ token-ների գեներացման համար։
Խորը ուսուցման fine-tuning
Վարժեցրեք և fine-tune արեք նեյրոնային ցանցերը PyTorch-ում՝ օգտագործելով Hopper ճարտարապետության հնարավորությունները և compute capability 9.0-ը։
Բարձր թույլատրելիությամբ պատկերների գեներացում
Գործարկեք բարդ ComfyUI աշխատանքային հոսքեր և մեծ diffusion pipeline-ներ՝ հիշողության մեջ՝ առանց համակարգչային RAM-ին offload անելու։
Գիտական հաշվարկներ և մոդելավորում
Կատարեք հիշողությամբ intensive տվյալների կենտրոնի աշխատանքներ, որոնք օգտվում են մոտ 48.3 TFLOPS single-precision հաշվողական հզորությունից։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք H100 NVL-ը, երբ ձեր AI կամ հաշվողական աշխատանքները պահանջում են ավելի շատ հիշողություն, քան ստանդարտ տվյալների կենտրոնի քարտերն են ապահովում՝ մինչև 94 ԳԲ VRAM։ Թեթև inference-ի և մշակման համար ավելի լավ ընտրություն են փոքր workstation կամ սպառողական GPU-ները, մինչդեռ եթե ձեր մոդելները գերազանցում են 94 ԳԲ-ը, անհրաժեշտ է բազմա-GPU կարգավորում կամ հիշողության ավելի մեծ շերտ։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Մանրամասներ |
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | Մանրամասներ |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Արդյո՞ք H100 NVL-ը հարմար է LLM inference-ի և fine-tuning-ի համար։
Այո, դրա 94 ԳԲ VRAM-ը և մոտ 3381 ԳԲ/վ հիշողության թողունակությունը այն լավ են հարմարեցնում մեծ լեզվական մոդելների սպասարկման և fine-tuning-ի համար, որոնք չեն տեղավորվում ավելի փոքր տվյալների կենտրոնի GPU-ների մեջ։
Ինչպե՞ս է H100 NVL-ը համեմատվում ստանդարտ H100 տարբերակների հետ։
H100 NVL-ն ունի ընդլայնված 94 ԳԲ VRAM հզորություն և 400 Վտ էներգիայի սահմանաչափ՝ ապահովելով լրացուցիչ հիշողության ռեզերվ՝ համեմատած ստանդարտ Hopper տվյալների կենտրոնի կարգավորումների հետ։
Ի՞նչ ծրագրային կաղապարներ են հասանելի ONIE-ում այս GPU-ի համար։
Դուք կարող եք տեղակայել H100 NVL-ը նախապես կարգավորված կաղապարներով՝ PyTorch/CUDA, vLLM, Ollama և ComfyUI համար, որոնք բոլորն աջակցում են compute capability 9.0-ին։
Ինչպե՞ս են աշխատում վճարումը և մուտքը H100 NVL-ը վարձակալելիս։
ONIE-ի օրինակները օգտագործում են ժամավճարային հաշվարկ և ապահովում են ուղղակի SSH մուտք, որպեսզի դուք կարողանաք անմիջապես կառավարել ձեր միջավայրը և աշխատանքային հոսքերը։
Վարձակալեք H100 NVL-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել H100 NVL