Vuokraa NVIDIA RTX 2070S -GPU tunneittain
NVIDIA RTX 2070S on Turing-arkkitehtuurilla toimiva kuluttajasegmentin GPU, jossa on 8 GB VRAM-muistia ja laskentakyky 7.5. ONIE-instansseissa se tarjoaa noin 8,8 TFLOPS:n standardin liukuluku-suorituskyvyn ja noin 366 GB/s muistikaistan 210 W:n tehonkulutuksella. Voit ottaa sen käyttöön tuntiperusteisella laskutuksella, täydellä SSH-käytöllä ja valmiilla malleilla, kuten PyTorch/CUDA, vLLM, Ollama ja ComfyUI.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin RTX 2070S soveltuu
Kompakti LLM-päättely
Aja kvantisoituja pieniä kielimalleja Ollama- tai vLLM-malleilla 8 GB:n VRAM-kapasiteetin sisällä.
PyTorch-prototyyppien tekeminen ja virheenkorjaus
Kehitä ja testaa syväoppimiskoodia Turing-GPU:lla, jonka laskentakyky on 7.5, ennen kuin skaalaat suurempaan laitteistoon.
Kevyt kuvan generointi
Generoi kuvia ComfyUI:lla standardeilla diffuusioputkilla, jotka mahtuvat mukavasti 8 GB:n muistiin.
GPU-laskentatehtävät
Suorita omia CUDA-sovelluksia, jotka hyödyntävät noin 8,8 TFLOPS:n yksitarkkuuslaskentatehoa ja noin 366 GB/s:n muistikaistaa.
Onko tämä oikea GPU sinulle?
Valitse RTX 2070S kehitykseen, virheenkorjaukseen ja kevyisiin päättelytehtäviin, jotka mahtuvat 8 GB:n VRAM-muistiin. Siirry GPU:hun, jossa on enemmän muistia ja korkeampi laskentakyky, suurten mallien koulutukseen, tai valitse pienemmän tehonkulutuksen kuluttajakortti perus-skriptien testaukseen.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Soveltuuko RTX 2070S LLM-päättelyyn tai hienosäätöön?
Kun VRAM-muistia on 8 GB ja muistikaistaa noin 366 GB/s, RTX 2070S käsittelee pienten, kvantisoitujen kielimallien päättelyä Ollaman tai vLLM:n kautta. Täysi hienosäätö tai suurempien mallien ajaminen vaatii GPU:n, jossa on enemmän VRAM-muistia.
Voinko käyttää tätä GPU:ta kuvan generointiin ComfyUI:lla?
Kyllä, ONIE tarjoaa valmiin ComfyUI-mallin, joka toimii RTX 2070S:llä. Sen 8 GB:n VRAM-muisti tukee standardeja diffuusion työnkulkuja, mutta raskaammat putket useilla ohjausverkoilla hyötyvät suuremman muistin GPU:sta.
Miten Turing-arkkitehtuuri vaikuttaa ohjelmistoyhteensopivuuteen?
RTX 2070S tukee CUDA-laskentakykyä 7.5, joka on yhteensopiva standardien PyTorch/CUDA-mallien kanssa. Työkuormat, jotka vaativat myöhempien sukupolvien uudempia arkkitehtuuriominaisuuksia, kannattaa kuitenkin ajaa uudemmalla GPU-arkkitehtuurilla.
Miten yhdistän ja miten laskutus toimii palvelussa ONIE?
Instanssit laskutetaan tuntiperusteisesti sen ajan mukaan, jona koneesi on aktiivinen. Voit yhdistää suoraan SSH:n kautta tai käynnistää valmiiksi konfiguroituja malleja PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-ympäristöihin.
Vuokraa RTX 2070S tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa RTX 2070S