Īrējiet NVIDIA CMP 170HX GPU pa stundām
NVIDIA CMP 170HX ir Ampere arhitektūras datu centru GPU ar 64 GB VRAM un 250 W TDP. Tas nodrošina aptuveni 1516 GB/s atmiņas joslas platumu un aptuveni 12.1 TFLOPS vienas precizitātes skaitļošanas veiktspēju ar 8.0 skaitļošanas iespēju līmeni. Vietnē ONIE šo karti varat izvietot ar stundas norēķiniem, pilnu SSH piekļuvi un gatavām PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnēm.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots CMP 170HX
Atmiņas joslas platuma ierobežota LLM inferenču veikšana
Darbiniet lielus valodu modeļus, izmantojot vLLM vai Ollama, un pilnvērtīgi izmantojiet 64 GB VRAM ietilpību un aptuveni 1516 GB/s atmiņas joslas platumu.
Dziļā mācīšanās ar lielu atmiņas apjomu
Darbiniet PyTorch/CUDA uzdevumus, kam nepieciešama liela atmiņas ietilpība un 8.0 skaitļošanas iespēju līmenis, nedalot modeļus starp ierīcēm.
Sarežģītas attēlu ģenerēšanas darbplūsmas
Vienlaikus ielādējiet vairākus lielus difūzijas kontrolpunktus un vadības tīklus ComfyUI vidē, izmantojot 64 GB atmiņas kopumu.
Datu apstrāde un simulācija
Veiciet datu centru uzdevumus, kam nepieciešams daudz atmiņas un kas iegūst priekšrocības no liela atmiņas joslas platuma, nepārsniedzot 250 W jaudas robežu.
Vai tas ir piemērots GPU Jums?
Izvēlieties CMP 170HX, ja jūsu darba slodzi ierobežo atmiņas ietilpība un joslas platums, nevis vienas precizitātes skaitļošanas jauda. Ja nepieciešams ātrāk veikt apmācības iterācijas, izvēlieties GPU ar lielāku skaitļošanas veiktspēju; ja modeļiem nav vajadzīgi 64 GB VRAM, izvēlieties mazāku patērētāju klases karti.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai CMP 170HX ir piemērots LLM inferenču veikšanai?
Jā, 64 GB VRAM un aptuveni 1516 GB/s atmiņas joslas platums padara to labi piemērotu lielu valodu modeļu ielādei un darbināšanai, izmantojot tādas veidnes kā vLLM un Ollama. Tomēr, tā kā karte nodrošina aptuveni 12.1 TFLOPS vienas precizitātes skaitļošanas veiktspēju, uzvedņu apstrāde būs lēnāka nekā datu centru GPU ar lielāku skaitļošanas veiktspējas blīvumu.
Kā šis GPU salīdzināms ar standarta datu centru akseleratoriem?
CMP 170HX piedāvā lielu, 64 GB atmiņas buferi un lielu atmiņas joslas platumu, kas līdzinās standarta Ampere datu centru kartēm, vienlaikus darbojoties ar 250 W TDP. Galvenais kompromiss ir zemāka, aptuveni 12.1 TFLOPS skaitļošanas veiktspēja, tāpēc karte ir piemērotāka atmiņas joslas platuma ierobežotiem uzdevumiem, nevis intensīvām skaitļošanas slodzēm.
Kādas programmatūras vides ir pieejamas šim GPU?
Karte atbalsta CUDA 8.0 skaitļošanas iespēju līmeni, un to var palaist vietnē ONIE, izmantojot iepriekš konfigurētas veidnes, tostarp PyTorch/CUDA, vLLM, Ollama un ComfyUI. Jums ir arī tieša SSH piekļuve, lai instalētu pielāgotas bibliotēkas un pārvaldītu savu vidi.
Kā tiek aprēķināta CMP 170HX nomas maksa?
Vietnē ONIE instances tiek apmaksātas pa stundām, tāpēc maksājat tikai par laiku, kamēr jūsu GPU ir aktīvs.
Nomājiet CMP 170HX pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt CMP 170HX