GPU Cloud · NVIDIA · Ampere

Üüri NVIDIA RTX A2000 GPU-d tunnipõhiselt

NVIDIA RTX A2000 on kompaktne Ampere-põlvkonna tööjaama GPU, mis on mõeldud algtaseme arvutus- ja graafikakoormuste jaoks platvormil ONIE. See kombineerib 6 GB VRAM-i ja 70 W energiaprofiili ligikaudu 11,2 TFLOPS-i ühekordse täpsusega (single-precision) jõudlusega ning umbes 247 GB/s mäluribalaiusega. CUDA arvutusvõimekusega 8.6 toetab see kaart kaasaegseid AI raamistikke kergete arendus- ja testimisülesannete jaoks.

Tehnilised andmed

VRAM GPU kohta

6 GB

Arhitektuur

NVIDIA Ampere

Arvutusvõimekus

8.6

FP32 arvutusvõimsus

≈ 11.2 TFLOPS

Mälu ribalaius

≈ 247 GB/s

Energiapiirang

70 W

Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.

Saadaolevad konfiguratsioonid

Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.

Hindade laadimine…

Mille jaoks RTX A2000 sobib

Koodi prototüüpimine ja silumine

Arenda ja testi CUDA- ja PyTorch-skripte Ampere arhitektuuril arvutusvõimekusega 8.6 enne suuremale riistvarale üleminekut.

Kompaktsete keelemudelite järeldamine

Käivita väikesed, tugevalt kvantiseeritud keelemudelid Ollama või vLLM abil 6 GB VRAM-i piires.

Lihtne pildi genereerimine

Käivita ComfyUI-s kergeid difusioonitöövoogusid, mis on optimeeritud mahtuma 6 GB mäluruumi.

Tööjaama renderdamine ja CAD

Tegele kergete renderdamis- ja graafikatöövoogudega, mida toetab umbes 247 GB/s mäluribalaius.

Kas see GPU sobib sulle?

Vali RTX A2000 madala lisakoormusega koodi silumiseks, keskkonna seadistamiseks ja kompaktsete mudelite käitamiseks, mis mahuvad 6 GB VRAM-i. Kui sinu töökoormus hõlmab treenimist, peenhäälestamist või suuremate, kvantiseerimata mudelite käitamist, vali suurema mälumahu ja arvutusjõudlusega tööjaama- või andmekeskuse GPU.

Võrdle sarnaste GPU-dega

GPUVRAM GPU kohtaArhitektuurFP32 arvutusvõimsusAlates / tundÜksikasjad
RTX A20006 GBAmpere≈ 11.2 TFLOPS—
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—Üksikasjad
RTX 2070S8 GBTuring≈ 8.8 TFLOPS—Üksikasjad
Titan Xp12 GBPascal≈ 11.7 TFLOPS—Üksikasjad

Korduma kippuvad küsimused

Kas RTX A2000 sobib LLM-i järeldamiseks või peenhäälestamiseks?

Kuue GB VRAM-i ja umbes 11,2 TFLOPS-i arvutusjõudlusega on RTX A2000 piiratud väga väikeste, kvantiseeritud mudelite järeldamisega sellistel tööriistadel nagu Ollama. Peenhäälestamiseks või suuremate keelemudelite käitamiseks tuleks valida GPU, millel on oluliselt rohkem VRAM-i.

Kas ma saan seda GPU-d pildi genereerimiseks kasutada?

Jah, lihtsaid pildi genereerimise töövooge saab käivitada ComfyUI malli abil, kui mudelid ja eraldusvõimed on seadistatud jääma 6 GB mälupiiri sisse. Raskemad difusioonitorujuhtmed ja kõrge eraldusvõimega genereerimised nõuavad suurema mälupuhvriga GPU-d.

Kuidas RTX A2000 võrdub suuremate Ampere tööjaama GPU-dega?

RTX A2000 on Ampere tööjaama liini sissepääsumudel 6 GB VRAM-i ja 70 W termilise projekteerimisvõimsusega. Kõrgema taseme Ampere tööjaama mudelid pakuvad rohkem VRAM-i ja suuremat mäluribalaiust kui siin pakutav umbes 247 GB/s, säilitades samal ajal ühilduvuse CUDA arvutusvõimekusega 8.6.

Kuidas toimivad arveldamine ja juurdepääs platvormil ONIE?

Instantse arvestatakse aktiivsena olemise ajal tunnipõhiselt. Saad ühenduda otse SSH-juurdepääsu kaudu ja paigaldada eelseadistatud malle, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI.

Telli RTX A2000 tunni kaupa

Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.

Telli RTX A2000

Kõik GPU-d →