Üüri NVIDIA RTX 3060 GPU-d tunnipõhiselt
NVIDIA RTX 3060 on tarbijaklassi Ampere-arhitektuuriga GPU, millel on 12 GB VRAM ja 170 W võimsuspiirang. See pakub ligikaudu 12.0 TFLOPS standardset ujukomajõudlust ja ligikaudu 318 GB/s mäluribalaiust ning toetab CUDA arvutusvõime versiooni 8.6. ONIE võimaldab teil rentida RTX 3060 tunnipõhise arvelduse, täieliku SSH-juurdepääsu ning PyTorch/CUDA, vLLM, Ollama ja ComfyUI valmismallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 3060 sobib
Kvantiseeritud LLM-i inferents
Käivitage kompaktseid või kvantiseeritud keelemudeleid 12 GB VRAM piires, kasutades eelkonfigureeritud Ollama või vLLM malle.
Piltide genereerimine ComfyUI abil
Käivitage tavapäraseid difusioonitöövooge ja pildisünteesi protsesse, mis mahuvad mugavalt 12 GB mällu.
Prototüüpimine ja silumine PyTorchiga
Arendage ja testige CUDA koodi arvutusvõime versiooniga 8.6 Ampere-kaardil, enne kui viite töökoormused üle võimsamale riistvarale.
Väikesemahuline mudelite peenhäälestus
Peenhäälestage mudeleid parameetrisäästlikult väiksematel andmestikel, mille jaoks piisab ligikaudu 12.0 TFLOPS arvutusvõimsusest.
Kas see GPU sobib sulle?
Valige RTX 3060 arenduseks, prototüüpimiseks ja kergeteks inferentsiülesanneteks, mis vajavad 12 GB VRAM, kuid mitte andmekeskuse riistvara kulusid. Valige võimsam GPU, kui teie mudelid vajavad üle 12 GB mälu või suuremat mäluribalaiust kui ligikaudu 318 GB/s. Kui käivitate vaid minimaalseid, väiksema mälunõudlusega skripte, valige väiksem GPU.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 3060 | 12 GB | Ampere | ≈ 12 TFLOPS | — | |
| Titan Xp | 12 GB | Pascal | ≈ 11.7 TFLOPS | — | Üksikasjad |
| RTX 3060 laptop | 12 GB | Ampere | ≈ 12.9 TFLOPS | — | Üksikasjad |
| GTX 1080 Ti | 11 GB | Pascal | ≈ 11 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 3060 sobib LLM-i inferentsiks ja piltide genereerimiseks?
Jah, 12 GB VRAM sobib hästi väiksemate või kvantiseeritud keelemudelite käitamiseks Ollama ja vLLM abil ning tavapäraste difusioonimudelite käitamiseks ComfyUI-s. Suuremate kvantiseerimata mudelite jaoks, mis vajavad üle 12 GB mälu, läheb vaja suurema mälumahuga GPU-d.
Kuidas on see tarbijaklassi Ampere-kaart võrreldav suuremate GPU-dega?
RTX 3060 pakub soodsaima hinnaklassi tarbijakaardi kohta mahukat 12 GB mälu, ligikaudu 12.0 TFLOPS arvutusvõimsust ja ligikaudu 318 GB/s mäluribalaiust. Kõrgema klassi tarbija- või tööjaama-GPU-d pakuvad suuremat mäluribalaiust ja arvutusjõudlust nõudlikuks treenimiseks.
Kuidas saan oma RTX 3060 eksemplariga ühenduse luua ja selle seadistada?
Iga ONIE rent sisaldab otsest SSH-juurdepääsu, mis annab teile täieliku käsureajuhtimise. Samuti saate kohe alustada, kasutades PyTorch/CUDA, vLLM, Ollama või ComfyUI valmismalle.
Kuidas toimub RTX 3060 eest arveldamine ONIE keskkonnas?
Eksemplaride eest arveldatakse tunnipõhiselt, kuni rendiperiood kestab. Nii saate teha katseid arvutusvõime versiooniga 8.6 Ampere-arhitektuuriga kaardil ja lõpetada eksemplari kasutamise, kui olete valmis.
Telli RTX 3060 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 3060