GPU Cloud · NVIDIA · Ampere

Վարձակալեք NVIDIA RTX 3080 GPU ժամավճարով

NVIDIA RTX 3080-ը Ampere ճարտարապետության սպառողական GPU է՝ 10 GB VRAM-ով։ Այն ապահովում է մոտ 29.5 TFLOPS ստանդարտ լողացող կետով հաշվարկային հզորություն և մոտ 656 GB/s հիշողության թողունակություն։ ONIE-ում այս GPU-ն կարող եք տեղակայել ժամային վճարումով, SSH մուտքով և պատրաստի կաղապարներով։

Բնութագրեր

VRAM յուրաքանչյուր GPU-ի համար

10 GB

Ճարտարապետություն

NVIDIA Ampere

Հաշվարկային հնարավորություն (compute capability)

8.6

FP32 հաշվարկ

≈ 29.5 TFLOPS

Հիշողության թողունակություն

≈ 656 GB/s

Սնուցման սահման

380 W

Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։

Հասանելի կոնֆիգուրացիաներ

Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։

Բեռնվում են գները…

Ինչի համար է հարմար RTX 3080-ը

Կոմպակտ LLM ինֆերենս

Գործարկեք քվանտացված լեզվական մոդելներ, որոնք տեղավորվում են 10 GB VRAM-ի մեջ՝ օգտագործելով նախապես կարգավորված Ollama կամ vLLM կաղապարներ։

Պատկերների գեներացման աշխատանքային հոսքեր

Իրականացրեք դիֆուզիոն խողովակաշարեր ComfyUI-ում՝ օգտագործելով մոտ 656 GB/s հիշողության թողունակությունը կայուն պատկերների արտադրության համար։

PyTorch մոդելների նախատիպավորում

Մշակեք և փորձարկեք խորը ուսուցման կոդը Ampere քարտի վրա՝ compute capability 8.6-ով, նախքան մասշտաբավորելը։

CUDA հաշվարկային առաջադրանքներ

Արագացրեք հատուկ աշխատանքային բեռները, որոնք օգտագործում են մոտ 29.5 TFLOPS ստանդարտ լողացող կետով կատարողականը։

Արդյո՞ք սա Ձեզ հարմար GPU է։

Ընտրեք RTX 3080-ը նախատիպավորման, պատկերների generation-ի և փոքր մասշտաբի ինֆերենսի համար, երբ 10 GB VRAM-ը և ուժեղ Ampere հաշվարկային հզորությունը բավարար են: Ընտրեք ավելի մեծ հիշողությամբ GPU, եթե ձեր մոդելները կամ batch չափերը գերազանցում են 10 GB-ը, կամ ընտրեք ավելի ցածր սպեցիֆիկացիայով սպառողական քարտ թեթև սկրիպտների համար, որոնց համար մոտ 29.5 TFLOPS չի պահանջվում:

Համեմատել նման GPU-ների հետ

GPUVRAM յուրաքանչյուր GPU-ի համարՃարտարապետությունFP32 հաշվարկՍկսած / ժամՄանրամասներ
RTX 308010 GBAmpere≈ 29.5 TFLOPS—
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—Մանրամասներ
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—Մանրամասներ
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—Մանրամասներ

Հաճախ տրվող հարցեր

Հարմա՞ր է արդյոք RTX 3080-ը LLM ինֆերենսի և պատկերների generation-ի համար:

Այո, դրա 10 GB VRAM-ը և մոտ 656 GB/s հիշողության թողունակությունը բավարար են ComfyUI-ում ստանդարտ պատկերների գեներացման և Ollama կամ vLLM-ի միջոցով քվանտացված լեզվական մոդելների համար։ Ավելի մեծ, չքվանտացված մոդելների համար պահանջվում է ավելի մեծ հիշողության տարողությամբ GPU։

Ի՞նչ ծրագրային կաղապարներ են հասանելի RTX 3080-ի համար ONIE-ում։

Դուք կարող եք գործարկել օրինակներ պատրաստի կաղապարներով՝ PyTorch/CUDA, vLLM, Ollama և ComfyUI-ի համար։ Քարտը աջակցում է compute capability 8.6-ը՝ ժամանակակից մեքենայական ուսուցման շրջանակների լայն համատեղելիության համար։

Ե՞րբ պետք է RTX 3080-ից անցնել ավելի մեծ GPU-ի։

RTX 3080-ն ապահովում է ուժեղ սպառողական դասի հաշվարկային հզորություն՝ մոտ 29.5 TFLOPS 380 W հզորության սահմաններում, բայց սահմանափակված է 10 GB VRAM-ով։ Եթե ձեր ուսուցման խմբաչափերը կամ մոդելի կշիռները հիշողության սպառման (out-of-memory) սխալներ են առաջացնում, ավելի մեծ հիշողության բուֆերով աշխատանքային կայանի կամ տվյալների կենտրոնի GPU-ն համապատասխան ընտրությունն է։

Ինչպե՞ս է աշխատում վճարումը և մուտքը ONIE-ում։

Instance-ները վճարվում են ժամավճարով, քանի դեռ ակտիվ են: Դուք ստանում եք լրիվ SSH մուտք՝ ձեր միջավայրը կառավարելու համար, ինչպես նաև ձեր ընտրած ձևանմուշի կողմից տրամադրված վեբ ինտերֆեյսները:

Վարձակալեք RTX 3080-ը ժամավճարով

Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։

Վարձակալել RTX 3080

Բոլոր GPU-ները →