Üüri NVIDIA RTX 3080 GPU-d tunnipõhiselt
NVIDIA RTX 3080 on Ampere arhitektuuril põhinev tarbijaklassi GPU, mille mälumaht on 10 GB VRAM. See pakub umbes 29,5 TFLOPS standardset ujukomaarvutusvõimsust ja mälu ribalaiust umbes 656 GB/s. Platvormil ONIE saad selle GPU käivitada tunnipõhise arveldusega, SSH-ligipääsuga ja valmismallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 3080 sobib
Kompaktne LLM-i järeldus
Käivita kvantiseeritud keelemudeleid, mis mahuvad 10 GB VRAM-i piiresse, kasutades eelseadistatud Ollama- või vLLM-malle.
Pildigenereerimise töövood
Käivita difusioonitorustikke ComfyUI-s, kasutades umbes 656 GB/s mälu ribalaiust stabiilse pildiväljundi tagamiseks.
PyTorchi mudelite prototüüpimine
Arenda ja testi süvaõppe koodi Ampere-kaardil, mille arvutusvõime on 8.6, enne mastaabi suurendamist.
CUDA arvutusülesanded
Kiirenda kohandatud töökoormusi, mis kasutavad umbes 29,5 TFLOPS standardset ujukomaarvutusvõimsust.
Kas see GPU sobib sulle?
Vali RTX 3080 prototüüpimiseks, pildigenereerimiseks ja väikese mastaabiga järeldamiseks, kus piisab 10 GB VRAM-ist ja tugevast Ampere-arvutusvõimsusest. Vali suurema mäluga GPU, kui su mudelid või partiisuurused ületavad 10 GB, või vali madalama spetsifikatsiooniga tarbijakaart kergete skriptide jaoks, mis ei vaja umbes 29,5 TFLOPS.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 3080 | 10 GB | Ampere | ≈ 29.5 TFLOPS | — | |
| RTX 4070 | 12 GB | Ada Lovelace | ≈ 29.3 TFLOPS | — | Üksikasjad |
| RTX 3080 Ti | 12 GB | Ampere | ≈ 35.1 TFLOPS | — | Üksikasjad |
| RTX 4070S | 12 GB | Ada Lovelace | ≈ 35.8 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 3080 sobib LLM-i järelduseks ja pildigenereerimiseks?
Jah, selle 10 GB VRAM-i ja umbes 656 GB/s mälu ribalaius toetavad standardset pildigenereerimist ComfyUI-s ning kvantiseeritud keelemudeleid Ollama või vLLM kaudu. Suuremad kvantiseerimata mudelid nõuavad kõrgema mälumahuga GPU-d.
Milliseid tarkvaramalle on platvormil ONIE RTX 3080 jaoks saadaval?
Saad käivitada instantse valmismallidega PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks. Kaart toetab arvutusvõimet 8.6, mis tagab laia ühilduvuse kaasaegsete masinõppe raamistikega.
Millal peaksin RTX 3080-lt suuremale GPU-le üle minema?
RTX 3080 pakub tugevat tarbijaklassi arvutusvõimsust umbes 29,5 TFLOPS ja 380 W energiatarbe piires, kuid on piiratud 10 GB VRAM-iga. Kui su treeningpartiid või mudelikaalud põhjustavad mälu täitumise vigu (out-of-memory), on sobiv valik töökaart või andmekeskuse GPU suurema mälupuhvriga.
Kuidas toimivad arveldus ja ligipääs platvormil ONIE?
Instantse arveldatakse tunnipõhiselt nende aktiivse olekuga. Saad täieliku SSH-ligipääsu keskkonna haldamiseks, lisaks mis tahes veebiliidesed, mis on sinu valitud mallis saadaval.
Telli RTX 3080 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 3080