GPU Cloud · NVIDIA · Ada Lovelace

Üüri NVIDIA RTX 6000Ada GPU-d tunnipõhiselt

NVIDIA RTX 6000Ada on Ada Lovelace arhitektuuriga tööjaamade GPU, mida saab ONIE-ist rentida nõudmisel. Sellel on 48 GB VRAM-i, umbes 81,4 TFLOPS ühe täpsusega arvutusvõimsust ja umbes 764 GB/s mälu ribalaiust 300 W energiatarbe piires. Võimekusversiooniga 8.9 sobib see mälumahukateks professionaalse graafika ja masinõppe töökoormusteks.

Tehnilised andmed

VRAM GPU kohta

48 GB

Arhitektuur

NVIDIA Ada Lovelace

Arvutusvõimekus

8.9

FP32 arvutusvõimsus

≈ 81.4 TFLOPS

Mälu ribalaius

≈ 764 GB/s

Energiapiirang

300 W

Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.

Saadaolevad konfiguratsioonid

Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.

Hindade laadimine…

Mille jaoks RTX 6000Ada sobib

Suurte keelemudelite järeldus

Käivita suuri keelemudeleid eelkonfigureeritud vLLM- või Ollama mallide abil, mis kasutavad ära 48 GB VRAM-i mahtu.

Mudelite peenhäälestus ja treenimine

Kasuta võimekusversiooni 8.9 ja PyTorch/CUDA malle, et peenhäälestada närvivõrke suurte partiisuurustega.

Generatiivse meediaga töövood

Paigalda ComfyUI, et genereerida kõrge eraldusvõimega pilte ja videoid, hoides keerukad töövoogud täielikult mälus.

Tööjaama renderdamine ja simulatsioon

Kasuta Ada Lovelace arhitektuuri ja umbes 81,4 TFLOPS ühe täpsusega jõudlust keerukaks ruumiliseks renderdamiseks ja teaduslikeks simulatsioonideks.

Kas see GPU sobib sulle?

Vali RTX 6000Ada, kui sinu töökoormus ületab tarbijatasemel GPU-de mälupiirangud ja vajab 48 GB VRAM-i koos Ada Lovelace arhitektuuri funktsioonidega. Kergemate järelduste jaoks vali väiksem tarbijatasemel GPU või vali suurema mäluga andmekeskuse GPU, kui su mudelid vajavad suuremat mälumahtu või suuremat mälu ribalaiust kui umbes 764 GB/s.

Võrdle sarnaste GPU-dega

GPUVRAM GPU kohtaArhitektuurFP32 arvutusvõimsusAlates / tundÜksikasjad
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—
L40S45 GBAda Lovelace≈ 73.3 TFLOPS—Üksikasjad
RTX PRO 500048 GBBlackwell≈ 69.6 TFLOPS—Üksikasjad
RTX 6000D84 GBBlackwell≈ 77.6 TFLOPS—Üksikasjad

Korduma kippuvad küsimused

Kas RTX 6000Ada sobib LLM-i järelduseks ja peenhäälestuseks?

Jah, selle 48 GB VRAM-i ja võimekusversioon 8.9 teevad selle sobivaks keskmise kuni suure keelemudeli käitamiseks ja peenhäälestuseks, mis standardsetesse tarbijakaartidesse ei mahu. Saad töökoormused ONIE-is kiiresti käivitada, kasutades valmis malle vLLM, Ollama või PyTorch/CUDA jaoks.

Kuidas see tööjaama GPU tarbijatasemel ja andmekeskuse alternatiividega võrdleb?

RTX 6000Ada pakub kaks korda suuremat mälumahtu samast Ada Lovelace põlvkonnast pärinevate tippklassi tarbijakaartidega, töötades samal ajal 300 W TDP juures. Kui su peamine kitsaskoht on aga mälu ribalaius, mitte maht, annab suure ribalaiusega mäluga andmekeskuse GPU kiirema andmeedastuse kui selle kaardi umbes 764 GB/s.

Kuidas ühendun oma RTX 6000Ada instantsiga ja milline tarkvara on kaasas?

Instantsi valmimisel saad täieliku SSH-juurdepääsu. ONIE pakub kasutusvalmis malle, sealhulgas PyTorch/CUDA, vLLM, Ollama ja ComfyUI, nii et saad alustada töötamist ilma draiverite käsitsi seadistamiseta.

Kuidas toimub RTX 6000Ada rentimise arvelduse?

Instantsid ONIE-is arveldatakse lihtsa tunnipõhise hinnaga. Maksad ainult selle aja eest, mil su tööjaama GPU instants on aktiivne.

Telli RTX 6000Ada tunni kaupa

Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.

Telli RTX 6000Ada

Kõik GPU-d →