Üüri NVIDIA RTX 2060 GPU-d tunnipõhiselt
ONIE pakutav NVIDIA RTX 2060 on Turingi arhitektuuril põhinev tavakasutaja GPU, millel on 12 GB VRAM-i ja 130 W TDP. See pakub ligikaudu 6.5 TFLOPS ühe täpsusega arvutusvõimsust ja ligikaudu 268 GB/s mäluribalaiust ning selle CUDA arvutusvõime tase on 7.5. Instantsid sisaldavad SSH-juurdepääsu, tunnipõhist arveldust ning eelseadistatud malle PyTorch/CUDA, ComfyUI, Ollama ja vLLM jaoks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 2060 sobib
Algtaseme pildigeneratsioon
Käivitage ComfyUI töövooge ja tavapäraseid difusioonimudeleid, mis mahuvad 12 GB VRAM-i.
Kompaktsete keelemudelite kasutamine
Kasutage kvanditud või väiksemaid keelemudeleid Ollama või vLLM abil lihtsamate teksti genereerimise ülesannete jaoks.
PyTorchiga prototüüpimine ja silumine
Kirjutage, testige ja siluge CUDA koodi Turingi arhitektuuriga kaardil, enne kui lähete üle suurematele instantsidele.
Väiksemahuline mudelite treenimine
Treenige väiksemaid närvivõrke ja masinõppemudeleid PyTorch/CUDA malli abil.
Kas see GPU sobib sulle?
Valige 12 GB RTX 2060, kui teie töökoormus vajab rohkem mälu, kui algtaseme tavakasutaja kaardid pakuvad, kuid ei nõua uuemate arhitektuuride suuremat arvutusvõimsust. Mahukaks treenimiseks valige uuema põlvkonna või tööjaama GPU; kui teie ülesanne vajab minimaalselt VRAM-i, valige väiksem GPU.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 2060 | 12 GB | Turing | ≈ 6.5 TFLOPS | — | |
| GTX TITAN X | 12 GB | Maxwell | ≈ 6.8 TFLOPS | — | Üksikasjad |
| GTX 1070 Ti | 8 GB | Pascal | ≈ 7.4 TFLOPS | — | Üksikasjad |
| RTX 2060S | 8 GB | Turing | ≈ 7.5 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 2060 sobib LLM-ide käitamiseks?
12 GB VRAM-i ja ligikaudu 268 GB/s mäluribalaiusega saab see Ollama või vLLM abil käitada kompaktseid ja kvanditud keelemudeleid. Suuremad mudelid või suure läbilaskevõimega teenindus nõuavad suurema mälu ja mäluribalaiusega GPU-d.
Millist tarkvara Turingi arhitektuur toetab?
RTX 2060 toetab CUDA arvutusvõime taset 7.5 ja sellel töötavad PyTorch/CUDA mallis sisalduvad standardsed raamistikud. Pange tähele, et sellel puudub riistvaraline tugi mõnele uuemale, hilisemates arhitektuurides kasutusele võetud andmetüübile.
Kuidas on see 12 GB RTX 2060 võrreldav teiste tavakasutaja GPU-dega?
12 GB mälu võimaldab hoida suuremaid mudeleid ja andmepakette kui väiksema mäluga tavakasutaja variandid, kuid selle ligikaudu 6.5 TFLOPS arvutusvõimsus on uuema põlvkonna kaartidega võrreldes tagasihoidlikum.
Kuidas toimivad ONIE arveldus ja ligipääs instantsidele?
Instantside eest arveldatakse tunnipõhiselt. Saate ühenduda otse SSH kaudu või käivitada instantsi eelseadistatud PyTorch/CUDA, vLLM, Ollama või ComfyUI malliga.
Telli RTX 2060 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 2060