GPU Cloud · NVIDIA · Pascal

Üüri NVIDIA GTX 1080 Ti GPU-d tunnipõhiselt

NVIDIA GTX 1080 Ti on Pascal-arhitektuuril põhinev 11 GB VRAM-iga tavakasutajale mõeldud GPU. Selle ühe täpsusega arvutusjõudlus on umbes 11.0 TFLOPS ja mälu läbilaskevõime umbes 339 GB/s, võimsuspiiriga 250 W. Saate seda GPU-d rentida ONIE kaudu tunnipõhise arvelduse, SSH-juurdepääsu ja kasutusvalmis tarkvaramallidega.

Tehnilised andmed

VRAM GPU kohta

11 GB

Arhitektuur

NVIDIA Pascal

Arvutusvõimekus

6.1

FP32 arvutusvõimsus

≈ 11 TFLOPS

Mälu ribalaius

≈ 339 GB/s

Energiapiirang

250 W

Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.

Saadaolevad konfiguratsioonid

Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.

Hindade laadimine…

Mille jaoks GTX 1080 Ti sobib

Prototüüpimine ja koodi testimine

Testige ja siluge PyTorch/CUDA skripte Pascal-arhitektuuriga kaardil, mille arvutusvõime tase on 6.1.

Väikeste mudelite inferents

Käitage Ollama või vLLM mallidega väikeseid keelemudeleid, mis mahuvad 11 GB mällu.

Tavapärane pildigenereerimine

Kasutage ComfyUI malli lihtsate pildisünteesi töövoogude käitamiseks, mis ei vaja tänapäevaseid tensortuumi.

Klassikaline süvaõppemudelite treenimine

Treenige põhilisi närvivõrke ja arvutinägemise mudeleid umbes 11.0 TFLOPS ühe täpsusega arvutusjõudlusega.

Kas see GPU sobib sulle?

Valige GTX 1080 Ti, kui vajate 11 GB VRAM-i vanemate töökoormuste, koodi testimise või väikesemahulise inferentsi jaoks Pascal-põlvkonna tavakasutajale mõeldud kaardil. Suurte mudelite või tänapäevaste segatäpsusega töökoormuste jaoks valige uuem, suurema mälumahuga GPU; kui teie ülesanne vajab väga vähe VRAM-i, valige väiksem tavakasutajale mõeldud GPU.

Võrdle sarnaste GPU-dega

GPUVRAM GPU kohtaArhitektuurFP32 arvutusvõimsusAlates / tundÜksikasjad
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—
Titan Xp12 GBPascal≈ 11.7 TFLOPS—Üksikasjad
RTX 306012 GBAmpere≈ 12 TFLOPS—Üksikasjad
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Üksikasjad

Korduma kippuvad küsimused

Kas GTX 1080 Ti sobib tänapäevaste LLM-ide inferentsiks ja peenhäälestuseks?

Tänu 11 GB VRAM-ile ja Pascal-arhitektuurile arvutusvõime tasemega 6.1 saab sellega käitada kvanditud väikeseid keelemudeleid, kasutades näiteks Ollama malli. Suuremate mudelite või uuema arhitektuuri funktsioonidest sõltuvate töökoormuste jaoks on soovitatav uuem, suurema VRAM-i mahuga GPU.

Millised tarkvaramallid on selle GPU jaoks ONIE kaudu saadaval?

ONIE pakub kasutusvalmis malle, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI. Samuti saate täieliku SSH-juurdepääsu oma keskkonna seadistamiseks.

Kuidas mõõdetakse selle kaardi jõudlust ja mälu läbilaskevõimet?

Taristuteenuse pakkuja andmetel on ühe täpsusega arvutusjõudlus umbes 11.0 TFLOPS ja mõõdetud mälu läbilaskevõime umbes 339 GB/s. Kaardi soojuslik võimsustarve on 250 W.

Kuidas toimub GTX 1080 Ti rentimisel arveldamine?

ONIE kasutab rentimisel tunnipõhist arveldust, nii et maksate ainult aja eest, mil teie instants on aktiivne.

Telli GTX 1080 Ti tunni kaupa

Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.

Telli GTX 1080 Ti

Kõik GPU-d →