Üüri NVIDIA RTX 4080S GPU-d tunnipõhiselt
NVIDIA RTX 4080S on Ada Lovelace arhitektuuriga tarbijaklassi GPU, mille mälumaht on 16 GB VRAM-i ja arvutusvõime 8.9. ONIE instantsides pakub see umbes 50,9 TFLOPS standardset ujukomatehet ja umbes 600 GB/s mälu ribalaiust 320 W energiatarbe piires. Saate selle käivitada tunnipõhise arveldusega, täieliku SSH-juurdepääsuga ja eelkonfigureeritud mallidega PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 4080S sobib
Kvantiseeritud LLM-i järeldus
Käivitage väikesed kuni keskmise suurusega keelemudelid vLLM- või Ollama-mallide abil 16 GB VRAM-i mahus ja umbes 600 GB/s mälu ribalaiuse piires.
Difusioonipõhine pildi genereerimine
Käivitage ComfyUI töövooge ja pildisünteesi torustikke, kasutades Ada Lovelace arhitektuuri ja umbes 50,9 TFLOPS arvutusvõimsust.
PyTorchi mudelite prototüüpimine
Arendage, testige ja siluge süvaõppe koodi arvutusvõimega 8.9 riistvaral enne töökoha- või andmekeskuse GPU-dele üleminekut.
LoRA peenhäälestus
Teostage parameetritõhusat peenhäälestust kompaktsetel mudelitel ja andmestikel, mis mahuvad mugavalt 16 GB mällu.
Kas see GPU sobib sulle?
Valige RTX 4080S siis, kui teie töökoormus vajab kaasaegset Ada Lovelace tuge ja mahub 16 GB tarbijaklassi mälumahtu. Kergeks testimiseks, mis vajab vähem mälu, valige väiksem GPU, või minge suurema tarbija-, töökoha- või andmekeskuse kaardi juurde, kui kvantiseerimata mudelid või suured partiisuurused ületavad 16 GB VRAM-i.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 4080S | 16 GB | Ada Lovelace | ≈ 50.9 TFLOPS | — | |
| RTX 4080 | 16 GB | Ada Lovelace | ≈ 48.6 TFLOPS | — | Üksikasjad |
| RTX 5080 | 16 GB | Blackwell | ≈ 53.4 TFLOPS | — | Üksikasjad |
| RTX 5070 Ti | 16 GB | Blackwell | ≈ 44.3 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 4080S sobib LLM-i järelduseks ja peenhäälestuseks?
16 GB VRAM-i ja umbes 600 GB/s mälu ribalaiusega toimib see väikeste või kvantiseeritud mudelite järelduseks ning parameetritõhusaks peenhäälestuseks, nagu LoRA. Suuremate mudelite täielik peenhäälestus nõuab suurema mälumahuga GPU-d.
Kuidas RTX 4080S võrdleb lähedaste GPU-klassidega?
16 GB Ada Lovelace tarbijakaardina, mis pakub umbes 50,9 TFLOPS 320 W TDP piires, asub see väiksema mälupuhvriga algtaseme tarbijaklassi GPU-de kohal. Sellel on vähem VRAM-i ja mälu ribalaiust kui kõrgema taseme tarbijamudelitel või raskemate koormuste jaoks mõeldud töökoha- ja andmekeskuse GPU-del.
Milliseid tarkvaramalle ja ühendusviise toetab ONIE?
Instantsid sisaldavad otsest SSH-juurdepääsu ning valmiskasutuseks mõeldud malle PyTorch/CUDA, vLLM, Ollama ja ComfyUI jaoks. Kaart toetab tarkvara, mis on suunatud CUDA arvutusvõimele 8.9.
Kuidas RTX 4080S rentimise arveldus toimib?
ONIE kasutab RTX 4080S instantsidele tunnipõhist arveldust, seega maksate ainult selle aja eest, mil instants on aktiivne.
Telli RTX 4080S tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 4080S