Üüri NVIDIA A800 PCIE GPU-d tunnipõhiselt
NVIDIA A800 PCIE on Ampere’i arhitektuuriga andmekeskuse GPU, millel on 80 GB VRAM-i. Selle mälu läbilaskevõime on umbes 1598 GB/s ja üksiktäpsusega jõudlus umbes 15,6 TFLOPS-i 300 W võimsustarbe juures. ONIE platvormil saate selle kaardi kasutusele võtta tunnipõhise arvelduse, täieliku SSH-juurdepääsu ning PyTorch/CUDA, vLLM-i, Ollama ja ComfyUI valmis mallidega.
Tehnilised andmed
VRAM GPU kohta
Arhitektuur
Arvutusvõimekus
FP32 arvutusvõimsus
Mälu ribalaius
Energiapiirang
Väärtused on infrastruktuuri pakkuja esitatud praegu pakutavate masinate kohta; tegelik jõudlus võib masinati erineda.
Saadaolevad konfiguratsioonid
Laoseis ja hinnad uuenevad pidevalt. Lõplik hind kinnitatakse enne tellimust.
Hindade laadimine…
Mille jaoks A800 PCIE sobib
Suurte keelemudelite järeldamine
Käivitage suured keelemudelid täielikult 80 GB VRAM-is, kasutades eelkonfigureeritud vLLM-i või Ollama malle.
Süvaõppe mudelite peenhäälestus
Treenige ja peenhäälestage mudeleid PyTorch/CUDA abil suurte partiide ja pikkade kontekstiakendega, ilma et mälu muutuks kitsaskohaks.
Suure läbilaskevõimega paketttöötlus
Kasutage umbes 1598 GB/s mälu läbilaskevõimet andmemahukate närvivõrgutööde ja embedding’ute töötlemiseks.
Keerukad generatiivsed töövood
Käivitage ComfyUI-s mitme mudeliga difusioonitöövooge, hoides samal ajal mälus laadituna mitu kontrollpunkti.
Kas see GPU sobib sulle?
Valige A800 PCIE, kui teie peamine vajadus on suurte AI-mudelite jaoks vajalik 80 GB mälumaht, mitte maksimaalne üksiktäpsusega arvutusjõudlus. Kui teie töökoormus mahub väiksemasse mälumahtu, sobib paremini väiksema VRAM-iga tööjaama- või tarbijaklassi GPU. Arvutusmahukatele ülesannetele võivad aga sobida paremini uuema põlvkonna andmekeskuse arhitektuurid.
Võrdle sarnaste GPU-dega
| GPU | VRAM GPU kohta | Arhitektuur | FP32 arvutusvõimsus | Alates / tund | Üksikasjad |
|---|---|---|---|---|---|
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | |
| CMP 170HX | 64 GB | Ampere | ≈ 12.1 TFLOPS | — | Üksikasjad |
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Üksikasjad |
| A100 SXM4 | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Üksikasjad |
Korduma kippuvad küsimused
Kas NVIDIA A800 PCIE sobib suurte keelemudelite töökoormustele?
Jah. Selle 80 GB VRAM ja umbes 1598 GB/s mälu läbilaskevõime sobivad hästi selliste suurte keelemudelite teenindamiseks ja peenhäälestamiseks, mis ületavad tavaliste tarbijaklassi kaartide mälumahu. GPU toetab CUDA arvutusvõimekuse taset 8.0, tagades laialdase ühilduvuse tänapäevaste AI-raamistikega.
Kuidas see GPU erineb väiksematest või uuematest andmekeskuse mudelitest?
Ampere’i arhitektuuriga A800 PCIE pakub tohutut 80 GB mälumahtu, mistõttu sobib see mälumahust sõltuvate ülesannete jaoks paremini kui väiksema mälumahuga kaardid. Üksiktäpsusega jõudlus on aga umbes 15,6 TFLOPS-i, seega võivad töökoormused, mis sõltuvad eelkõige arvutusjõudlusest, mitte mälumahust, uuema arhitektuuripõlvkonnaga kiiremini töötada.
Kuidas A800 PCIE eksemplariga ühendust luua ja seda seadistada?
Kõik ONIE eksemplarid sisaldavad otsest SSH-juurdepääsu, mis annab teile keskkonna üle täieliku kontrolli. Saate kohe alustada ka PyTorch/CUDA, vLLM-i, Ollama ja ComfyUI valmis mallidega.
Kuidas A800 PCIE rentimise eest arveldatakse?
ONIE kasutab kõigi GPU eksemplaride puhul lihtsat tunnipõhist arveldust. Maksate ainult selle aja eest, mil teie eksemplar on aktiivne, ja saate andmekeskuse arvutusressursside kasutust vastavalt vajadusele suurendada või vähendada.
Telli A800 PCIE tunni kaupa
Loo konto, vali konfiguratsioon ja ühendu SSH kaudu. Arveldamine lõpeb, kui GPU kustutad.
Telli A800 PCIE