GPU Cloud · NVIDIA · Turing

Üüri NVIDIA RTX 2060 GPU-d tunnipõhiselt

ONIE pakutav NVIDIA RTX 2060 on Turingi arhitektuuril põhinev tavakasutaja GPU, millel on 12 GB VRAM-i ja 130 W TDP. See pakub ligikaudu 6.5 TFLOPS ühe täpsusega arvutusvõimsust ja ligikaudu 268 GB/s mäluribalaiust ning selle CUDA arvutusvõime tase on 7.5. Instantsid sisaldavad SSH-juurdepääsu, tunnipõhist arveldust ning eelseadistatud malle PyTorch/CUDA, ComfyUI, Ollama ja vLLM jaoks.

Tehnilised andmed

VRAM GPU kohta

12 GB

Arhitektuur

NVIDIA Turing

Arvutusvõimekus

7.5

FP32 arvutusvõimsus

≈ 6.5 TFLOPS

Mälu ribalaius

≈ 268 GB/s

Energiapiirang

130 W

Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.

Saadaolevad konfiguratsioonid

Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.

Hindade laadimine…

Mille jaoks RTX 2060 sobib

Algtaseme pildigeneratsioon

Käivitage ComfyUI töövooge ja tavapäraseid difusioonimudeleid, mis mahuvad 12 GB VRAM-i.

Kompaktsete keelemudelite kasutamine

Kasutage kvanditud või väiksemaid keelemudeleid Ollama või vLLM abil lihtsamate teksti genereerimise ülesannete jaoks.

PyTorchiga prototüüpimine ja silumine

Kirjutage, testige ja siluge CUDA koodi Turingi arhitektuuriga kaardil, enne kui lähete üle suurematele instantsidele.

Väiksemahuline mudelite treenimine

Treenige väiksemaid närvivõrke ja masinõppemudeleid PyTorch/CUDA malli abil.

Kas see GPU sobib sulle?

Valige 12 GB RTX 2060, kui teie töökoormus vajab rohkem mälu, kui algtaseme tavakasutaja kaardid pakuvad, kuid ei nõua uuemate arhitektuuride suuremat arvutusvõimsust. Mahukaks treenimiseks valige uuema põlvkonna või tööjaama GPU; kui teie ülesanne vajab minimaalselt VRAM-i, valige väiksem GPU.

Võrdle sarnaste GPU-dega

GPUVRAM GPU kohtaArhitektuurFP32 arvutusvõimsusAlates / tundÜksikasjad
RTX 206012 GBTuring≈ 6.5 TFLOPS—
GTX TITAN X12 GBMaxwell≈ 6.8 TFLOPS—Üksikasjad
GTX 1070 Ti8 GBPascal≈ 7.4 TFLOPS—Üksikasjad
RTX 2060S8 GBTuring≈ 7.5 TFLOPS—Üksikasjad

Korduma kippuvad küsimused

Kas RTX 2060 sobib LLM-ide käitamiseks?

12 GB VRAM-i ja ligikaudu 268 GB/s mäluribalaiusega saab see Ollama või vLLM abil käitada kompaktseid ja kvanditud keelemudeleid. Suuremad mudelid või suure läbilaskevõimega teenindus nõuavad suurema mälu ja mäluribalaiusega GPU-d.

Millist tarkvara Turingi arhitektuur toetab?

RTX 2060 toetab CUDA arvutusvõime taset 7.5 ja sellel töötavad PyTorch/CUDA mallis sisalduvad standardsed raamistikud. Pange tähele, et sellel puudub riistvaraline tugi mõnele uuemale, hilisemates arhitektuurides kasutusele võetud andmetüübile.

Kuidas on see 12 GB RTX 2060 võrreldav teiste tavakasutaja GPU-dega?

12 GB mälu võimaldab hoida suuremaid mudeleid ja andmepakette kui väiksema mäluga tavakasutaja variandid, kuid selle ligikaudu 6.5 TFLOPS arvutusvõimsus on uuema põlvkonna kaartidega võrreldes tagasihoidlikum.

Kuidas toimivad ONIE arveldus ja ligipääs instantsidele?

Instantside eest arveldatakse tunnipõhiselt. Saate ühenduda otse SSH kaudu või käivitada instantsi eelseadistatud PyTorch/CUDA, vLLM, Ollama või ComfyUI malliga.

Telli RTX 2060 tunni kaupa

Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.

Telli RTX 2060

Kõik GPU-d →