GPU Cloud · NVIDIA · Turing

Üüri NVIDIA RTX 2080 Ti GPU-d tunnipõhiselt

NVIDIA RTX 2080 Ti on Turingi arhitektuuril põhinev tavatarbijatele mõeldud GPU, mida saab ONIE kaudu nõudmisel rentida. Sellel on 11 GB VRAM-i, umbes 501 GB/s mälu ribalaiust ja umbes 14.6 TFLOPS ühe täpsusega arvutusvõimsust. 250 W TDP ja arvutusvõimega 7.5 sobib see kergemateks masinõppe-, järeldus- ja graafikaülesanneteks ning selle kasutuse eest tasutakse tunnipõhiselt.

Tehnilised andmed

VRAM GPU kohta

11 GB

Arhitektuur

NVIDIA Turing

Arvutusvõimekus

7.5

FP32 arvutusvõimsus

≈ 14.6 TFLOPS

Mälu ribalaius

≈ 501 GB/s

Energiapiirang

250 W

Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.

Saadaolevad konfiguratsioonid

Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.

Hindade laadimine…

Mille jaoks RTX 2080 Ti sobib

Kvantiseeritud LLM-ide järeldus

Käivitage valmis Ollama või vLLM mallide abil kompaktseid või kvantiseeritud keelemudeleid, mis mahuvad 11 GB VRAM-i.

Pildigeneratsiooni töövood

Kasutage ComfyUI-d piltide loomiseks ja difusioonitöövoogude testimiseks 11 GB mälumahu piires.

Süvaõppe prototüüpimine

Kirjutage, siluge ja testige PyTorch- ja CUDA-koodi Turingi GPU-l arvutusvõimega 7.5, enne kui lähete üle võimsamale riistvarale.

Andmete pakktöötlus

Kasutage umbes 14.6 TFLOPS ühe täpsusega arvutusvõimsust ja umbes 501 GB/s mälu ribalaiust GPU-kiirendusega andmetöötluseks ja renderdamiseks.

Kas see GPU sobib sulle?

Valige RTX 2080 Ti arenduseks, väiksemate mudelitega järelduseks ja mõõdukateks treeningülesanneteks, mis mahuvad 11 GB VRAM-i. Suuremahulise treeningu või kvantiseerimata mudelite jaoks valige suurema mäluga ja uuema arhitektuuriga GPU; lihtsamaks silumiseks piisab väiksemast tavatarbijatele mõeldud kaardist.

Võrdle sarnaste GPU-dega

GPUVRAM GPU kohtaArhitektuurFP32 arvutusvõimsusAlates / tundÜksikasjad
RTX 2080 Ti11 GBTuring≈ 14.6 TFLOPS—
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Üksikasjad
RTX 306012 GBAmpere≈ 12 TFLOPS—Üksikasjad
RTX 3060 Ti8 GBAmpere≈ 15.7 TFLOPS—Üksikasjad

Korduma kippuvad küsimused

Kas RTX 2080 Ti sobib LLM-ide järelduseks ja pildigeneratsiooniks?

Jah. 11 GB VRAM-i ja umbes 501 GB/s mälu ribalaiusega saab käivitada kompaktseid või kvantiseeritud keelemudeleid ning tavalisi difusioonimudeleid. Kui mudel vajab rohkem kui 11 GB mälu või uuema arhitektuuri võimalusi, mida arvutusvõime 7.5 ei paku, kaaluge suurema mäluga GPU rentimist.

Millised tarkvarakeskkonnad on selle GPU rentimisel saadaval?

Saate oma eksemplarile täieliku SSH-juurdepääsu ning võite käivitada valmis malle, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI. Kaart toetab CUDA töökoormusi, mis ühilduvad arvutusvõimega 7.5.

Kuidas võrreldub RTX 2080 Ti uuemate või suuremate GPU-dega?

Turingi põlvkonna tavatarbijatele mõeldud kaardina, millel on 11 GB VRAM-i ja umbes 14.6 TFLOPS ühe täpsusega arvutusvõimsust, pakub see rohkem mälu kui soodsama hinnaklassi tavatarbijate GPU-d. Uuema põlvkonna tööjaama- või andmekeskuse GPU-d pakuvad aga mahukate treeningülesannete jaoks rohkem VRAM-i ja suuremat mälu ribalaiust.

Kuidas toimub ONIE RTX 2080 Ti eksemplaride eest tasumine?

ONIE eksemplaride eest tasutakse tunnipõhiselt, seega maksate ainult aja eest, mil teie GPU server on aktiivne.

Telli RTX 2080 Ti tunni kaupa

Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.

Telli RTX 2080 Ti

Kõik GPU-d →