GPU Cloud · NVIDIA · Ampere

Huur NVIDIA CMP 170HX GPU per uur

Die NVIDIA CMP 170HX is ’n datasentrum-GPU met Ampere-argitektuur, 64 GB VRAM en ’n TDP van 250 W. Dit bied ongeveer 1516 GB/s se geheuebandwydte en ongeveer 12.1 TFLOPS se enkelpresisie-rekenvermoë teen berekeningsvermoë 8.0. Op ONIE kan u hierdie kaart ontplooi met uurlikse fakturering, volle SSH-toegang en gereed-vir-gebruik sjablone vir PyTorch/CUDA, vLLM, Ollama en ComfyUI.

Spesifikasies

VRAM per GPU

64 GB

Argitektuur

NVIDIA Ampere

Rekenvermoë-vlak

8.0

FP32-rekenkrag

≈ 12.1 TFLOPS

Geheuebandwydte

≈ 1 516 GB/s

Kraglimiet

250 W

Waardes wat deur die infrastruktuurverskaffer vir masjiene wat tans gelys is, verskaf word; werklike werkverrigting wissel van masjien tot masjien.

Beskikbare konfigurasies

Lewendige voorraad en pryse, voortdurend opgedateer. Die finale prys word bevestig voordat jy bestel.

Lewendige pryse word gelaai…

Waarvoor die CMP 170HX goed is

LLM-inferensie wat deur geheue beperk word

Bedien groot taalmodelle met vLLM of Ollama deur die 64 GB VRAM en ongeveer 1516 GB/s se geheuebandwydte te benut.

Diep leer met hoë geheuevereistes

Voer PyTorch/CUDA-werkladings uit wat baie geheue en berekeningsvermoë 8.0 vereis, sonder om modelle oor toestelle te verdeel.

Komplekse beeldgenereringswerkvloeie

Laai verskeie groot diffusiemodelkontrolepunte en beheernetwerke gelyktydig in ComfyUI binne die beskikbare 64 GB geheue.

Dataverwerking en simulasie

Voer geheue-intensiewe datasentrumtake uit wat baat vind by hoë geheuedeurset, binne ’n kraglimiet van 250 W.

Is dit die regte GPU vir jou?

Kies die CMP 170HX wanneer u werklading eerder deur geheuekapasiteit en -bandwydte as deur rou enkelpresisie-rekenvermoë beperk word. Kies ’n GPU met hoër rekendeurset as u vinniger opleidingsiklusse benodig, of ’n kleiner verbruikerskaart as u modelle nie 64 GB VRAM nodig het nie.

Vergelyk met soortgelyke GPU's

GPUVRAM per GPUArgitektuurFP32-rekenkragVanaf / uurBesonderhede
CMP 170HX64 GBAmpere≈ 12.1 TFLOPS—
Q RTX 800045 GBTuring≈ 11.9 TFLOPS—Besonderhede
A800 PCIE80 GBAmpere≈ 15.6 TFLOPS—Besonderhede
A100 PCIE40 GBAmpere≈ 15.6 TFLOPS—Besonderhede

Gereelde vrae

Is die CMP 170HX geskik vir LLM-inferensie?

Ja, sy 64 GB VRAM en ongeveer 1516 GB/s se geheuebandwydte maak dit geskik om groot taalmodelle te laai en te bedien met sjablone soos vLLM en Ollama. Omdat dit egter ongeveer 12.1 TFLOPS se enkelpresisie-rekenvermoë bied, sal die verwerking van invoeropdragte stadiger wees as op datasentrum-GPU’s met hoër rekenvermoë.

Hoe vergelyk hierdie GPU met standaard-datasentrumversnellers?

Die CMP 170HX bied ’n groot geheuekapasiteit van 64 GB en hoë geheuebandwydte, soortgelyk aan standaard-datasentrumkaarte met Ampere-argitektuur, terwyl dit teen ’n TDP van 250 W werk. Die vernaamste kompromie is ’n laer rekendeurset van ongeveer 12.1 TFLOPS, wat dit meer geskik maak vir take wat deur geheue beperk word as vir rekenintensiewe werkladings.

Watter sagteware-omgewings is vir hierdie GPU beskikbaar?

Die kaart ondersteun CUDA-berekeningsvermoë 8.0 en kan op ONIE met voorafopgestelde sjablone vir PyTorch/CUDA, vLLM, Ollama en ComfyUI geloods word. U kry ook direkte SSH-toegang om pasgemaakte biblioteke te installeer en u omgewing te bestuur.

Hoe werk fakturering wanneer ek die CMP 170HX huur?

Instansies op ONIE word per uur gefaktureer, dus betaal u slegs vir die tyd wat u GPU aktief bly.

Huur die CMP 170HX per uur

Skep 'n rekening, kies 'n konfigurasie en koppel oor SSH. Fakturering stop wanneer jy die GPU uitvee.

Huur CMP 170HX

Alle GPU's →