GPU Cloud · NVIDIA · Ampere

Վարձակալեք NVIDIA RTX 3080 Ti GPU ժամավճարով

NVIDIA RTX 3080 Ti — GPU consumer architecture Ampere, 12 GB VRAM և 350 W TDP։ ONIE-ում այն ապահովում է մոտ 35.1 TFLOPS ստանդարտ լողակետային հաշվարկային հզորություն և մոտ 787 GB/s հիշողության թողունակություն։ CUDA compute capability 8.6-ով այս GPU-ն աջակցում է միջին մակարդակի մեքենայական ուսուցման աշխատանքներին, inference-ին և ստեղծագործական ռենդերինգին։

Բնութագրեր

VRAM յուրաքանչյուր GPU-ի համար

12 GB

Ճարտարապետություն

NVIDIA Ampere

Հաշվարկային հնարավորություն (compute capability)

8.6

FP32 հաշվարկ

≈ 35.1 TFLOPS

Հիշողության թողունակություն

≈ 787 GB/s

Սնուցման սահման

350 W

Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։

Հասանելի կոնֆիգուրացիաներ

Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։

Բեռնվում են գները…

Ինչի համար է հարմար RTX 3080 Ti-ը

Քվանտացված LLM Inference

Գործարկեք փոքր և քվանտացված մեծ լեզվական մոդելներ 12 GB VRAM բյուջեի սահմաններում՝ օգտագործելով պատրաստի կաղապարներ, ինչպիսիք են Ollama կամ vLLM։

Պատկերների գեներացում ComfyUI-ով

Գեներացրեք պատկերներ և փորձարկեք diffusion pipeline-ներ՝ օգտագործելով ComfyUI կաղապարը և մոտ 787 GB/s հիշողության թողունակությունը պրոմպտերի մշակման համար։

PyTorch մոդելների նախատիպավորում

Մշակեք, վրիպազերծեք և փոքր և միջին չափի նեյրոնային ցանցեր վարժեցրեք PyTorch-ում և CUDA-ում՝ Ampere GPU-ի վրա, compute capability 8.6-ով։

GPU-ով արագացված ռենդերինգ

Օգտագործեք մոտ 35.1 TFLOPS հաշվարկային հզորությունը 12 GB հիշողության մեջ տեղավորվող տեսարանների ռենդերինգի և տեքստուրաների թխման համար։

Արդյո՞ք սա Ձեզ հարմար GPU է։

RTX 3080 Ti-ն հարմար է այն մշակողներին և ստեղծագործողներին, ովքեր կարիք ունեն Ampere-ի ուժեղ հաշվարկային հզորության այն աշխատանքների համար, որոնք հարմարավետ տեղավորվում են 12 GB VRAM-ում։ Եթե պարզ սկրիպտավորման կամ թեթև inference-ի համար ավելի փոքր սպառողական GPU է բավարար, ընտրեք այն։ Իսկ եթե վերապատրաստում եք մեծ մոդելներ կամ բեռնում եք չքվանտացված կշիռներ, ավելի մեծ VRAM ունեցող GPU-ի վրա անցեք։

Համեմատել նման GPU-ների հետ

GPUVRAM յուրաքանչյուր GPU-ի համարՃարտարապետությունFP32 հաշվարկՍկսած / ժամՄանրամասներ
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—Մանրամասներ
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—Մանրամասներ
RTX 308010 GBAmpere≈ 29.5 TFLOPS—Մանրամասներ

Հաճախ տրվող հարցեր

Արդյո՞ք RTX 3080 Ti-ն հարմար է LLM inference-ի և fine-tuning-ի համար։

12 GB VRAM-ի և մոտ 787 GB/s հիշողության թողունակության շնորհիվ այն լավ հարմարվում է փոքր կամ քվանտացված լեզվական մոդելներ Ollama-ի կամ vLLM-ի միջոցով գործարկելու համար։ Full fine-tuning-ի կամ չքվանտացված մեծ մոդելների գործարկման համար խորհուրդ է տրվում ավելի մեծ VRAM ունեցող GPU։

Ինչպե՞ս է RTX 3080 Ti-ն համեմատվում Ampere շարքի մյուս սպառողական GPU-ների հետ։

RTX 3080 Ti-ն գտնվում է ստանդարտ RTX 3080-ի և Ampere շարքի ավելի մեծ հիշողությամբ սպառողական մոդելների միջև՝ առաջարկելով 12 GB VRAM և մոտ 35.1 TFLOPS հաշվարկային հզորություն։ Եթե ձեր աշխատանքը հաշվարկով սահմանափակված է և տեղավորվում է 12 GB-ի մեջ, այն ապահովում է բարձր թողունակություն՝ առանց ավելի բարձր հիշողության աստիճանի անցնելու։

Ինչպե՞ս միանալ ONIE-ի RTX 3080 Ti instance-ին։

Instance-ը գործարկվելուց հետո կարող եք միանալ անմիջապես SSH մուտքի միջոցով։ ONIE-ը տրամադրում է նաև նախապես կազմաձևված կաղապարներ PyTorch/CUDA, vLLM, Ollama և ComfyUI համար, որպեսզի կարողանաք անմիջապես սկսել աշխատանքը։

Ինչպե՞ս է աշխատում այս GPU-ի վճարումը։

ONIE-ի instance-ները վճարվում են ժամավճարով։ Դուք վճարում եք միայն այն ժամանակի համար, երբ ձեր RTX 3080 Ti instance-ը ակտիվ է։

Վարձակալեք RTX 3080 Ti-ը ժամավճարով

Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։

Վարձակալել RTX 3080 Ti

Բոլոր GPU-ները →