Vuokraa NVIDIA RTX 3080 Ti -GPU tunneittain
NVIDIA RTX 3080 Ti on Ampere-arkkitehtuuriin perustuva kuluttajanäytönohjain, jossa on 12 GB VRAM-muistia ja 350 W TDP. ONIE-palvelussa se tarjoaa noin 35.1 TFLOPS:n tavanomaisen liukulukulaskentatehon ja noin 787 GB/s muistikaistanleveyden. CUDA-laskentakyvyn 8.6 ansiosta GPU soveltuu keskitason koneoppimistehtäviin, inferenssiin ja luovaan renderöintiin.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin RTX 3080 Ti soveltuu
Kvantisoitu LLM-päättely
Aja kompakteja ja kvantisoituja suuria kielimalleja 12 GB:n VRAM-muistin rajoissa valmiiden mallipohjien, kuten Ollaman tai vLLM:n, avulla.
Kuvagenerointi ComfyUI:lla
Generoi kuvia ja testaa diffuusiolinjoja ComfyUI-mallipohjan avulla hyödyntäen noin 787 GB/s muistikaistanleveyttä kehotteiden käsittelyyn.
PyTorch-mallien prototyypitys
Kehitä, debuggaa ja kouluta pieniä ja keskikokoisia neuroverkkoja PyTorchilla ja CUDA:lla Ampere-GPU:lla, jonka laskentakyky on 8.6.
GPU-kiihdytetty renderöinti
Hyödynnä noin 35.1 TFLOPS:n laskentatehoa kohtausten renderöintiin ja tekstuurien paistamiseen 12 GB:n muistin rajoissa.
Onko tämä oikea GPU sinulle?
RTX 3080 Ti sopii kehittäjille ja luojille, jotka tarvitsevat vahvaa Ampere-laskentatehoa työkuormiin, jotka mahtuvat hyvin 12 GB:n VRAM-muistiin. Valitse pienempi kuluttaja-GPU yksinkertaiseen skriptaukseen tai kevyeen inferenssiin. Siirry GPU:hun, jossa on enemmän VRAM-muistia, jos hienosäädät suuria malleja tai lataat kvantisoimattomia painoja.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko RTX 3080 Ti LLM-inferenssiin ja hienosäätöön?
12 GB:n VRAM-muistilla ja noin 787 GB/s muistikaistanleveydellä se soveltuu hyvin pienempien tai kvantisoitujen kielimallien ajamiseen Ollaman tai vLLM:n kautta. Täyttä hienosäätöä tai suurempien kvantisoimattomien mallien ajamista varten suositellaan GPU:ta, jossa on suurempi VRAM-muisti.
Miten RTX 3080 Ti vertautuu muihin Ampere-kuluttaja-GPU:hin?
RTX 3080 Ti sijoittuu tavallisen RTX 3080:n ja Ampere-sarjan suuremman muistin kuluttajamallien väliin. Se tarjoaa 12 GB VRAM-muistia ja noin 35.1 TFLOPS:n laskentatehon. Jos työkuorma on laskentarajoitteinen ja mahtuu 12 GB:n muistiin, se tarjoaa vahvan suorituskyvyn ilman siirtymistä suuremman muistin luokkaan.
Miten yhdistän ONIE-palvelun RTX 3080 Ti -instanssiin?
Voit yhdistää suoraan SSH-yhteydellä, kun instanssi on käynnissä. ONIE tarjoaa myös valmiiksi määritettyjä mallipohjia PyTorch/CUDA:lle, vLLM:lle, Ollamalle ja ComfyUI:lle, joten voit aloittaa työskentelyn heti.
Miten tämän GPU:n laskutus toimii?
ONIE-palvelun instanssit laskutetaan tuntiperusteisesti. Maksat vain siitä ajasta, jonka RTX 3080 Ti -instanssi on aktiivinen.
Vuokraa RTX 3080 Ti tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa RTX 3080 Ti