Üüri NVIDIA RTX 3080 Ti GPU-d tunnipõhiselt
NVIDIA RTX 3080 Ti on Ampere-arhitektuuriga tarbijatasemel GPU, mille mälu on 12 GB VRAM-i ja TDP 350 W. Platvormil ONIE pakub see umbes 35,1 TFLOPS standardset ujukomaarvutusvõimsust ja umbes 787 GB/s mälu ribalaiust. CUDA compute capability 8.6 toel sobib see GPU keskmise taseme masinõppe töökoormuste, järeldusarvutuste (inference) ja loomingulise renderdamise jaoks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 3080 Ti sobib
Kvantiseeritud LLM-i järeldusarvutus
Käivita kompaktseid ja kvantiseeritud suuri keelemudeleid 12 GB VRAM-i piires, kasutades valmis malle nagu Ollama või vLLM.
Piltide genereerimine ComfyUI-ga
Genereeri pilte ja testi difusioonitöövooge ComfyUI malli abil, kasutades promptide töötlemiseks umbes 787 GB/s mälu ribalaiust.
PyTorchi mudelite prototüüpimine
Arenda, silu ja treeni väikseid kuni keskmise suurusega närvivõrke PyTorchis ja CUDA-s Ampere GPU-l, mille compute capability on 8.6.
GPU-kiirendusega renderdamine
Kasuta umbes 35,1 TFLOPS arvutusvõimsust stseenide renderdamiseks ja tekstuuride küpsetamiseks, mis mahuvad 12 GB mälumahu piiresse.
Kas see GPU sobib sulle?
RTX 3080 Ti sobib arendajatele ja loojatele, kes vajavad tugevat Ampere arvutusvõimsust töökoormustele, mis mahuvad mugavalt 12 GB VRAM-i piiresse. Lihtsate skriptide või kerge järeldusarvutuse jaoks valige väiksem tarbijatasemel GPU. Kui aga peenhäälestate suuri mudeleid või laadite kvantiseerimata kaale, valige GPU suurema VRAM-i mahuga.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 3080 Ti | 12 GB | Ampere | ≈ 35.1 TFLOPS | — | |
| RTX 4070S | 12 GB | Ada Lovelace | ≈ 35.8 TFLOPS | — | Üksikasjad |
| RTX 4070 | 12 GB | Ada Lovelace | ≈ 29.3 TFLOPS | — | Üksikasjad |
| RTX 3080 | 10 GB | Ampere | ≈ 29.5 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 3080 Ti sobib LLM-i järeldusarvutuseks ja peenhäälestuseks?
12 GB VRAM-i ja umbes 787 GB/s mälu ribalaiusega sobib see hästi väiksemate või kvantiseeritud keelemudelite käitamiseks Ollama või vLLM-i kaudu. Täielikuks peenhäälestuseks või suuremate kvantiseerimata mudelite käitamiseks soovitatakse suurema VRAM-i mahuga GPU-d.
Kuidas RTX 3080 Ti võrdleb teiste Ampere tarbijatasemel GPU-dega?
RTX 3080 Ti asub Ampere valikus standardse RTX 3080 ja suurema mäluga tarbijakaartide vahel. Sellel on 12 GB VRAM-i ja umbes 35,1 TFLOPS arvutusvõimsust. Kui sinu töökoormus on arvutusmahukas ja mahub 12 GB-sse, pakub see head läbilaskevõimet ilma kõrgemasse mälutasemesse minemata.
Kuidas ühendun platvormi ONIE RTX 3080 Ti instantsiga?
Kui instants töötab, saad ühenduda otse SSH-ühenduse kaudu. ONIE pakub ka valmis malle PyTorchi/CUDA, vLLM-i, Ollama ja ComfyUI jaoks, et saaksid kohe alustada.
Kuidas selle GPU hinnastamine toimib?
Instantsid platvormil ONIE on tunnipõhiselt arveldatavad. Maksad ainult selle aja eest, mil sinu RTX 3080 Ti instants on aktiivne.
Telli RTX 3080 Ti tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 3080 Ti