GPU Cloud · NVIDIA · Ampere

Վարձակալեք NVIDIA RTX 3090 GPU ժամավճարով

NVIDIA RTX 3090-ը Ampere ճարտարապետության սպառողական GPU է՝ 24 ԳԲ VRAM-ով և compute capability 8.6-ով։ Այն ապահովում է մոտ 35.4 TFLOPS ստանդարտ single-precision հաշվարկային հզորություն և մոտ 805 ԳԲ/վրկ հիշողության թողունակություն 350 Վտ հզորության դասի դեպքում։ Այս GPU-ն կարող եք վարձել ONIE-ում՝ ժամավճարային հաշվարկով, լրիվ SSH հասանելիությամբ և PyTorch/CUDA, vLLM, Ollama և ComfyUI պատրաստի շաբլոններով։

Բնութագրեր

VRAM յուրաքանչյուր GPU-ի համար

24 GB

Ճարտարապետություն

NVIDIA Ampere

Հաշվարկային հնարավորություն (compute capability)

8.6

FP32 հաշվարկ

≈ 35.4 TFLOPS

Հիշողության թողունակություն

≈ 805 GB/s

Սնուցման սահման

350 W

Արժեքները տրամադրված են ենթակառուցվածքի մատակարարի կողմից՝ ներկայումս ցուցադրվող մեքենաների համար. իրական աշխատանքը տարբերվում է ըստ մեքենայի։

Հասանելի կոնֆիգուրացիաներ

Առկայությունը և գները թարմացվում են անընդհատ։ Վերջնական գինը հաստատվում է պատվիրելուց առաջ։

Բեռնվում են գները…

Ինչի համար է հարմար RTX 3090-ը

LLM-ների եզրահանգում տեղային մասշտաբով

Գործարկեք քվանտացված կամ միջին չափի լեզվական մոդելներ 24 ԳԲ VRAM-ում՝ օգտագործելով նախապես կարգավորված vLLM կամ Ollama շաբլոնները։

Պատկերների գեներացման աշխատանքային հոսքեր

Տեղադրեք ComfyUI՝ բարձր լուծաչափի պատկերներ գեներացնելու և սովորական սպառողական քարտերի հիշողության սահմանաչափից անցնելու համար՝ սեփական դիֆուզիոն խողովակաշարերով։

Մոդելների ճշգրտում և վարժեցում

Օգտագործեք PyTorch/CUDA շաբլոնը՝ 24 ԳԲ հիշողության սահմաններում տեղավորվող նեյրոնային ցանցերը ճշգրտելու համար՝ օգտվելով մոտ 805 ԳԲ/վրկ հիշողության թողունակությունից։

Ընդհանուր CUDA հաշվարկներ

Կատարեք compute capability 8.6-ի համար կոմպիլյացված հատուկ աշխատանքային բեռներ՝ մոտ 35.4 TFLOPS single-precision կատարողականով։

Արդյո՞ք սա Ձեզ հարմար GPU է։

RTX 3090-ը հարմար է այն մշակողների և հետազոտողների համար, ովքեր Ampere սպառողական քարտի վրա 24 ԳԲ VRAM են պահանջում հիշողության մեծ ծախս ունեցող աշխատանքների համար։ Թեթև եզրահանգման համար, որը պահանջում է ավելի քիչ հիշողություն, ընտրեք ավելի փոքր GPU, իսկ եթե ձեր մոդելները գերազանցում են 24 ԳԲ VRAM-ը կամ պահանջում են նոր ճարտարապետության հնարավորություններ, անցեք աշխատանքային կայանի կամ datacenter GPU-ի։

Համեմատել նման GPU-ների հետ

GPUVRAM յուրաքանչյուր GPU-ի համարՃարտարապետությունFP32 հաշվարկՍկսած / ժամՄանրամասներ
RTX 309024 GBAmpere≈ 35.4 TFLOPS—
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—Մանրամասներ
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—Մանրամասներ
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—Մանրամասներ

Հաճախ տրվող հարցեր

Արդյո՞ք RTX 3090-ը հարմար է LLM-ների եզրահանգման և ճշգրտման համար։

Այո, 24 ԳԲ VRAM-ը և մոտ 805 ԳԲ/վրկ հիշողության թողունակությունը թույլ են տալիս գործարկել և ճշգրտել բազմաթիվ բաց կշիռներով լեզվական մոդելներ։ Դուք կարող եք անմիջապես ONIE-ում գործարկել vLLM, Ollama կամ PyTorch/CUDA շաբլոնները և սկսել աշխատել անմիջապես։

Ինչպե՞ս է RTX 3090-ը համեմատվում ավելի փոքր կամ ավելի մեծ GPU-ների հետ։

24 ԳԲ VRAM-ով RTX 3090-ը տեղավորում է զգալիորեն ավելի շատ մոդելի կշիռներ և մեծ batch չափեր, քան ցածր դասի սպառողական քարտերը։ Սակայն, եթե ձեր աշխատանքին պահանջվում է 24 ԳԲ-ից ավելի հիշողություն կամ մոտ 35.4 TFLOPS-ից բարձր single-precision հաշվարկային հզորություն, պետք է դիտարկեք նոր սերնդի կամ datacenter դասի GPU։

Ինչպե՞ս միանալ իմ RTX 3090 instance-ին և ի՞նչ ծրագրակազմ է ներառված։

Դուք կարող եք անմիջապես միանալ ձեր instance-ին SSH հասանելիության միջոցով։ ONIE-ը տրամադրում է PyTorch/CUDA, vLLM, Ollama և ComfyUI պատրաստի շաբլոններ, որպեսզի ձեզ ձեռքով կարգավորել ծրագրային կույտը պետք չգա։

Ինչպե՞ս է գործում վճարումը ONIE-ում RTX 3090-ի համար։

Instance-ները վճարվում են ժամավճարային հիմունքներով։ Դուք վճարում եք միայն այն ժամանակի համար, երբ ձեր GPU instance-ը ակտիվ է։

Վարձակալեք RTX 3090-ը ժամավճարով

Ստեղծեք հաշիվ, ընտրեք կոնֆիգուրացիա և միացեք SSH-ով։ Վճարումը դադարում է, երբ ջնջում եք GPU-ն։

Վարձակալել RTX 3090

Բոլոր GPU-ները →