Վարձակալեք NVIDIA H100 SXM GPU ժամավճարով
NVIDIA H100 SXM-ը Hopper ճարտարապետության տվյալների կենտրոնի GPU է՝ 80 ԳԲ VRAM-ով և 700 Վտ հզորության սահմանով։ Այն ապահովում է մոտ 53.5 TFLOPS ստանդարտ լողակետային հաշվարկային հզորություն և մոտ 2869 ԳԲ/վ հիշողության թողունակություն, աջակցում է CUDA-ի compute capability 9.0-ը։ Վարձեք այն ONIE-ում ժամավճարային հաշվարկով, լրիվ SSH հասանելիությամբ և պատրաստի կաղապարներով՝ PyTorch/CUDA, vLLM, Ollama և ComfyUI-ի համար։
Բնութագրեր
VRAM յուրաքանչյուր GPU-ի համար
Ճարտարապետություն
Հաշվարկային հնարավորություն (compute capability)
FP32 հաշվարկ
Հիշողության թողունակություն
Սնուցման սահման
Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։
Հասանելի կոնֆիգուրացիաներ
Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։
Բեռնվում են գները…
Ինչի համար է հարմար H100 SXM-ը
Մեծ լեզվական մոդելների ինֆերենս
Տեղակայեք պահանջկոտ լեզվական մոդելներ արտադրության մեջ՝ օգտագործելով 80 ԳԲ VRAM հզորությունը և մոտ 2869 ԳԲ/վ հիշողության թողունակությունը vLLM կամ Ollama կաղապարների միջոցով։
Խորը ուսուցման նուրբ կարգավորում
Մարզեք և նուրբ կարգավորեք նեյրոնային ցանցեր՝ օգտագործելով Hopper ճարտարապետությունը և CUDA compute capability 9.0-ը՝ նախապես կազմաձևված PyTorch/CUDA միջավայրերով։
Մեծ ծավալի խմբաքանակային մշակում
Իրականացրեք ինտենսիվ տվյալների մշակման և սիմուլյացիայի աշխատանքներ, որոնք օգտվում են մոտ 53.5 TFLOPS հաշվարկային հզորությունից 700 Վտ տվյալների կենտրոնի ձևաչափում։
Բարդ գեներատիվ մեդիա աշխատանքային հոսքեր
Կատարեք բարդ ComfyUI խողովակաշարեր և դիֆուզիոն մոդելներ մեծ խմբաքանակի չափերով, որոնք հարմար են 80 ԳԲ հիշողության շտեմարանում։
Արդյո՞ք սա Ձեզ հարմար GPU է։
Ընտրեք H100 SXM, երբ ձեր ուսուցման կամ ինֆերենսի աշխատանքները պահանջում են 80 ԳԲ բարձր թողունակությամբ տվյալների կենտրոնի հիշողություն և Hopper ճարտարապետության հնարավորություններ։ Թեթև մշակման կամ փոքր մոդելների համար ավելի գործնական է փոքր աշխատանքային կայանի կամ սպառողական GPU-ն, մինչդեռ եթե մեկ օրինակը չի կարող տեղավորել ամբողջ մոդելը 80 ԳԲ VRAM-ում, ավելի նոր կամ ավելի մեծ հզորության տվյալների կենտրոնի GPU-ն ավելի նպատակահարմար է։
Համեմատել նման GPU-ների հետ
| GPU | VRAM յուրաքանչյուր GPU-ի համար | Ճարտարապետություն | FP32 հաշվարկ | Սկսած / ժամ | Մանրամասներ |
|---|---|---|---|---|---|
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Մանրամասներ |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Մանրամասներ |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Մանրամասներ |
Հաճախ տրվող հարցեր
Արդյո՞ք H100 SXM-ը հարմար է LLM-ի նուրբ կարգավորման և ինֆերենսի համար։
Այո, դրա 80 ԳԲ VRAM-ը և մոտ 2869 ԳԲ/վ հիշողության թողունակությունը այն լավ հարմարեցնում են մեծ լեզվական մոդելների սպասարկման և նուրբ կարգավորման համար։ Կարող եք անմիջապես սկսել ONIE-ում՝ օգտագործելով vLLM, Ollama կամ PyTorch/CUDA պատրաստի կաղապարները։
Ինչպե՞ս է SXM տարբերակը համեմատվում ավելի ցածր հզորության տվյալների կենտրոնի կամ աշխատանքային կայանի GPU-ների հետ։
H100 SXM-ն աշխատում է 700 Վտ ջերմային նախագծային հզորությամբ, ինչը թույլ է տալիս պահպանել ավելի բարձր հաշվարկային հզորություն և հիշողության թողունակություն, քան PCIe տվյալների կենտրոնի տարբերակները կամ աշխատանքային կայանի քարտերը։ Եթե ձեր աշխատանքը չի սպառում մոտ 53.5 TFLOPS հաշվարկային հզորությունը կամ 80 ԳԲ հիշողությունը, փոքր GPU-ն կարող է բավարար լինել։
Ի՞նչ ծրագրային համատեղելիություն է ապահովում CUDA compute capability 9.0-ը։
Compute capability 9.0-ը նշանակում է, որ սարքաշարը աջակցում է NVIDIA Hopper ճարտարապետության հրահանգներին և հնարավորություններին։ Մեր նախապես կազմաձևված PyTorch/CUDA կաղապարները պատրաստ են օգտագործել այս սարքաշարը առանց ձեռքով դրայվերների տեղադրման։
Ինչպե՞ս են աշխատում վճարումն ու օրինակի հասանելիությունը ONIE-ում։
Օրինակները վճարվում են ժամավճարային հաշվարկով՝ վարձակալության տևողության համար։ Տեղակայվելուց հետո կարող եք միանալ ձեր միջավայրին անմիջապես SSH հասանելիությամբ կամ աշխատել նախապես տեղադրված գործիքների, օրինակ՝ ComfyUI-ի հետ։
Վարձակալեք H100 SXM-ը ժամավճարով
Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։
Վարձակալել H100 SXM