Վարձակալեք NVIDIA H200 NVL GPU ժամավճարով
NVIDIA H200 NVL-ը Hopper ճարտարապետությամբ տվյալների կենտրոնի GPU է, որը նախատեսված է հիշողության մեծ ծավալ պահանջող աշխատանքների համար։ Այն ապահովում է 140 ԳԲ VRAM և մոտ 3884 ԳԲ/վ հիշողության թողունակություն, աշխատում է 600 Վտ հզորության սահմաններում, աջակցում է compute capability 9.0-ին և տալիս է մոտ 48.3 TFLOPS ստանդարտ լողակետային հաշվարկային արտադրողականություն։ Դուք կարող եք տեղակայել այս պրոցեսորը ONIE-ում՝ ժամավճարային վճարումով, ուղիղ SSH մուտքով և պատրաստի ձևանմուշներով։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար H200 NVL-ը
Մեծ լեզվական մոդելների ինֆերենս
Աշխատեցրեք մեծ մոդելներ հիշողության մեջ՝ առանց shard-ավորման, օգտվելով 140 ԳԲ VRAM հզորությունից և մոտ 3884 ԳԲ/վ հիշողության թողունակությունից։
Մոդելների նուրբ կարգավորում և ուսուցում
Ուսուցանեք և հարմարեցրեք խորը ուսուցման մոդելներ՝ օգտագործելով Hopper compute capability 9.0-ը և մեծ բատչ չափերի համար բավարար GPU հիշողությունը։
Բարձր թողունակությամբ խմբային մշակում
Արդյունավետ մշակեք մեծ տվյալների հավաքածուներ և երկար համատեքստային պատուհաններ՝ օգտագործելով նախապես կարգավորված PyTorch/CUDA, vLLM կամ Ollama ձևանմուշները։
Գիտական հաշվարկներ և սիմուլյացիա
Կատարեք բարդ տվյալների կենտրոնի սիմուլյացիաներ, որոնք պահանջում են մոտ 48.3 TFLOPS ստանդարտ լողակետային արտադրողականություն և զգալի ներկառուցված հիշողություն։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք H200 NVL, երբ ձեր հիմնական խոչընդոտը VRAM ծավալն ու հիշողության թողունակությունն են, հատկապես մեծ մոդելները մեկ քարտի վրա տեղակալելու համար։ Եթե դուք աշխատում եք ավելի թեթև ինֆերենսի, ստանդարտ պատկերների գեներացման կամ մշակման առաջադրանքների հետ, որոնք չեն պահանջում 140 ԳԲ հիշողություն, ավելի գործնական ընտրություն է փոքր աշխատանքային կայանը կամ սպառողական GPU-ն։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Մանրամասներ |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Մանրամասներ |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Ինչու՞ ընտրել H200 NVL՝ ստանդարտ Hopper GPU-ի փոխարեն։
H200 NVL-ը ապահովում է 140 ԳԲ VRAM և մոտ 3884 ԳԲ/վ հիշողության թողունակություն, ինչը ավելի բարձր է, քան նախորդ Hopper սերնդի քարտերի հիշողության ծավալն ու թողունակությունը։ Սա թույլ է տալիս ավելի մեծ մոդելներին և համատեքստային պատուհաններին տեղավորվել մեկ GPU-ի վրա։
Արդյո՞ք H200 NVL-ը հարմար է vLLM կամ Ollama-ով LLM սպասարկման համար։
Այո, 140 ԳԲ հիշողության ավազանը և բարձր հիշողության թողունակությունը այն լավ են հարմարեցնում մեծ լեզվական մոդելների սպասարկման համար։ ONIE-ը տրամադրում է պատրաստի ձևանմուշներ և՛ vLLM-ի, և՛ Ollama-ի համար, որպեսզի դուք արագ սկսեք։
Ի՞նչ programային միջավայրեր և մուտքի եղանակներ են հասանելի։
Յուրաքանչյուր instance ներառում է լրիվ SSH մուտք՝ անհատական կոնֆիգուրացիայի համար։ Դուք կարող եք նաև գործարկել instance-ներ նախապես տեղադրված ձևանմուշներով, ներառյալ PyTorch/CUDA, vLLM, Ollama և ComfyUI։
Ինչպե՞ս է աշխատում H200 NVL-ի վճարումը ONIE-ում։
Instance-ները վճարվում են ժամավճարային հիմունքներով։ Դուք վճարում եք միայն այն ժամանակի համար, երբ ձեր H200 NVL instance-ը ակտիվ է։
Վարձակալեք H200 NVL-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել H200 NVL