GPU Cloud · NVIDIA · Ampere

Vuokraa NVIDIA RTX 3060 -GPU tunneittain

NVIDIA RTX 3060 on kuluttajatason Ampere-arkkitehtuurin GPU, jossa on 12 GB VRAM-muistia ja 170 W tehorajoitus. Se tarjoaa noin 12.0 TFLOPS tavallista liukulukulaskentatehoa ja noin 318 GB/s muistikaistanleveyden sekä tukee CUDA-laskentakykyä 8.6. Palvelussa ONIE voit vuokrata RTX 3060:n tuntiperusteisella laskutuksella, täydellä SSH-yhteydellä ja valmiilla mallipohjilla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-ympäristöille.

Tekniset tiedot

VRAM per GPU

12 GB

Arkkitehtuuri

NVIDIA Ampere

Laskentakyky

8.6

FP32-laskenta

≈ 12 TFLOPS

Muistin kaistanleveys

≈ 318 GB/s

Tehoraja

170 W

Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.

Saatavilla olevat kokoonpanot

Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.

Ladataan hintoja…

Mihin RTX 3060 soveltuu

Kvantisoitujen kielimallien päättely

Aja pienet tai kvantisoidut kielimallit 12 GB:n VRAM-muistin rajoissa esiasetettujen Ollama- tai vLLM-mallipohjien avulla.

Kuvien generointi ComfyUI:lla

Suorita tavalliset diffuusiotyönkulut ja kuvasynteesiputket, jotka mahtuvat mukavasti 12 GB:n muistiin.

PyTorch-prototyyppien kehitys ja virheenetsintä

Kehitä ja testaa CUDA-koodia Ampere-kortilla, jonka laskentakyky on 8.6, ennen työkuormien siirtämistä suurempaan laitteistoon.

Pienimuotoinen mallin hienosäätö

Tee parametritehokasta hienosäätöä suppeilla aineistoilla, joissa noin 12.0 TFLOPS:n laskentateho riittää.

Onko tämä oikea GPU sinulle?

Valitse RTX 3060 kehitykseen, prototyyppien tekoon ja kevyisiin päättelytehtäviin, jotka vaativat 12 GB VRAM-muistia ilman datakeskuslaitteiston kustannuksia. Valitse suurempi GPU, jos mallisi ylittävät 12 GB tai vaativat suurempaa muistikaistanleveyttä kuin noin 318 GB/s. Valitse pienempi GPU, jos ajat vain minimaalisia skriptejä pienemmillä muistitarpeilla.

Vertaa vastaaviin GPU:ihin

GPUVRAM per GPUArkkitehtuuriFP32-laskentaAlkaen / tuntiTiedot
RTX 306012 GBAmpere≈ 12 TFLOPS—
Titan Xp12 GBPascal≈ 11.7 TFLOPS—Tiedot
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Tiedot
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—Tiedot

Usein kysytyt kysymykset

Soveltuuko RTX 3060 LLM-päättelyyn ja kuvien generointiin?

Kyllä, 12 GB VRAM-muisti sopii hyvin pienempien tai kvantisoitujen kielimallien ajamiseen Ollamalla ja vLLM:llä sekä tavallisille diffuusiomalleille ComfyUI:ssa. Suuremmat, kvantisoimattomat mallit, jotka ylittävät 12 GB, vaativat GPU:n, jonka muistikapasiteetti on suurempi.

Miten tämä kuluttajatason Ampere-kortti vertautuu suurempiin GPU:hin?

RTX 3060 tarjoaa sisääntulotason kuluttajakortiksi runsaan 12 GB:n muistipuskurin sekä noin 12.0 TFLOPS laskentatehoa ja noin 318 GB/s muistikaistanleveyttä. Siirtyminen korkeamman tason kuluttaja- tai työasemaluokan GPU:hun tarjoaa nopeamman muistikaistanleveyden ja suuremman laskentatehon raskaampaan koulutukseen.

Miten yhdistän RTX 3060 -instanssiini ja otan sen käyttöön?

Jokaisessa palvelun ONIE vuokrauksessa on suora SSH-yhteys täydelliseen komentorivin hallintaan. Voit myös käynnistää heti valmiiden PyTorch/CUDA-, vLLM-, Ollama- tai ComfyUI-mallipohjien avulla.

Miten laskutus toimii RTX 3060:lle palvelussa ONIE?

Instanssit laskutetaan tunneittain niin kauan kuin vuokrauksesi on aktiivinen. Näin voit tehdä kokeita Ampere-kortilla, jonka laskentakyky on 8.6, ja sammuttaa instanssin, kun olet valmis.

Vuokraa RTX 3060 tunneittain

Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.

Vuokraa RTX 3060

Kaikki GPU:t →