Üüri NVIDIA RTX 2070 GPU-d tunnipõhiselt
NVIDIA RTX 2070 on Turingi arhitektuuril põhinev tarbijaklassi GPU, mille arvutusvõime on 7.5 ja VRAM-i maht 8 GB. ONIE platvormil näitavad instantsid ühe täpsusega arvutusjõudlust umbes 7.7 TFLOPS ja mälu läbilaskevõimet umbes 370 GB/s, tarbides kuni 150 W. Saate selle kaardi kasutusele võtta tunnipõhise arvelduse, täieliku SSH-juurdepääsu ning PyTorch/CUDA, vLLM-i, Ollama ja ComfyUI valmismallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks RTX 2070 sobib
Väikeste keelemudelite inferents
Käivitage eelseadistatud Ollama või vLLM-i mallide abil kvanditud või väikseid keelemudeleid, mis mahuvad 8 GB VRAM-i.
Lihtne pildigeneratsioon
Looge tavalise eraldusvõimega pilte ja katsetage ComfyUI-s difusioonipõhiseid töövooge 8 GB mälu piires.
PyTorch-koodi prototüüpimine
Arendage, siluge ja testige närvivõrkude treenimisskripte PyTorch/CUDA keskkonnas enne suuremale riistvarale üleminekut.
Algtaseme CUDA arendus
Kompileerige ja testige Turingi arhitektuurile ning arvutusvõimele 7.5 suunatud kohandatud kerneleid otsese SSH-juurdepääsu kaudu.
Kas see GPU sobib sulle?
Valige RTX 2070 kergekaaluliseks arenduseks, koodi silumiseks ja väiksemamahulisteks inferentsiülesanneteks, mis mahuvad hästi 8 GB VRAM-i. Kui teie mudelid vajavad rohkem mälu või suuremat jõudlust kui umbes 7.7 TFLOPS, valige võimsam GPU. Väiksem GPU sobib vaid minimaalseteks kuvamis- või lihtsateks arvutustestideks.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| RTX 2070 | 8 GB | Turing | ≈ 7.7 TFLOPS | — | |
| Q RTX 4000 | 8 GB | Turing | ≈ 7.7 TFLOPS | — | Üksikasjad |
| GTX 1080 | 8 GB | Pascal | ≈ 7.8 TFLOPS | — | Üksikasjad |
| RTX 2060S | 8 GB | Turing | ≈ 7.5 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas RTX 2070 sobib LLM-ide inferentsiks ja peenhäälestuseks?
8 GB VRAM-i ja umbes 370 GB/s mälu läbilaskevõimega suudab RTX 2070 Ollama või vLLM-i abil käitada väikeste kvanditud keelemudelite inferentsi. Suuremate mudelite või täieliku peenhäälestuse jaoks on soovitatav suurema VRAM-i mahu ja uuema arhitektuuriga GPU.
Kas saan seda GPU-d kasutada ComfyUI-ga piltide genereerimiseks?
Jah, ONIE pakub ComfyUI malli, mis töötab RTX 2070-ga. Selle 8 GB VRAM-ist piisab tavapärasteks pildigeneratsiooni töövoogudeks, kuid keerukate, mitut juhtvõrku või suurendusetappi hõlmavate töövoogude jaoks on kasulik suurema mälumahuga kaart.
Kuidas võrreldub RTX 2070 teiste tarbijaklassi GPU-dega?
Turingi põlvkonna tarbijaklassi kaardina, mille arvutusvõime on 7.5 ja energiatarve 150 W, jääb see uuematele arhitektuuridele alla nii arvutusjõudluse kui ka mälumahu poolest. Võimsam mudel pakub nõudlikumaks treenimiseks rohkem VRAM-i ja suuremat TFLOPS-jõudlust, väiksem mudel aga veel vähem mäluvaru.
Kuidas toimivad ONIE platvormil arveldamine ja juurdepääs instantsile?
Aktiivsete instantside eest arveldatakse tunnipõhiselt. Saate ühenduda otse SSH kaudu või käivitada instantsi kohe eelseadistatud PyTorch/CUDA, vLLM-i, Ollama või ComfyUI keskkonnas.
Telli RTX 2070 tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli RTX 2070