Magrenta ng NVIDIA CMP 170HX GPU kada oras
Ang NVIDIA CMP 170HX ay isang datacenter GPU na may Ampere architecture, 64 GB na VRAM, at 250 W TDP. Nagbibigay ito ng humigit-kumulang 1516 GB/s na memory bandwidth at humigit-kumulang 12.1 TFLOPS ng single-precision compute sa compute capability 8.0. Sa ONIE, maaari mong i-deploy ang card na ito na may per-hour billing, buong SSH access, at handang template para sa PyTorch/CUDA, vLLM, Ollama, at ComfyUI.
Mga Specification
VRAM bawat GPU
Architecture
Compute capability
FP32 compute
Memory bandwidth
Power limit
Mga halagang iniulat ng infrastructure provider para sa mga makinang kasalukuyang nakalista; nag-iiba ang aktuwal na performance depende sa makina.
Mga available na configuration
Live na stock at presyo, patuloy na ina-update. Kukumpirmahin ang huling presyo bago ka mag-order.
Kinukuha ang live na presyo…
Para saan ang CMP 170HX
Memory-Bound LLM Inference
Mag-serve ng malalaking language model gamit ang vLLM o Ollama, sa tulong ng 64 GB na VRAM capacity at humigit-kumulang 1516 GB/s na memory bandwidth.
High-Memory Deep Learning
Magpatakbo ng PyTorch/CUDA workloads na nangangailangan ng malaking memory capacity at compute capability 8.0 nang hindi hinahati ang mga model sa maraming device.
Kumplikadong Workflow sa Paggawa ng Larawan
I-load nang sabay ang maraming malalaking diffusion checkpoint at control net sa ComfyUI, sa loob ng 64 GB na memory pool.
Pagproseso ng Data at Simulation
Magpatakbo ng memory-intensive na datacenter tasks na nakikinabang sa mataas na memory throughput, sa loob ng 250 W power envelope.
Angkop ba sa iyo ang GPU na ito?
Piliin ang CMP 170HX kapag ang workload mo ay limitado ng memory capacity at bandwidth, at hindi ng raw single-precision compute. Pumili ng GPU na may mas mataas na compute throughput kung kailangan mo ng mas mabilis na training iterations, o pumili ng mas maliit na consumer card kung hindi kailangan ng iyong mga model ang 64 GB na VRAM.
Ikumpara sa mga katulad na GPU
| GPU | VRAM bawat GPU | Architecture | FP32 compute | Mula / oras | Mga detalye |
|---|---|---|---|---|---|
| CMP 170HX | 64 GB | Ampere | ≈ 12.1 TFLOPS | — | |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Mga detalye |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Mga detalye |
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Mga detalye |
Mga madalas itanong
Angkop ba ang CMP 170HX para sa LLM inference?
Oo, angkop ito para sa pag-load at pag-serve ng malalaking language model gamit ang mga template tulad ng vLLM at Ollama, dahil sa 64 GB na VRAM at humigit-kumulang 1516 GB/s na memory bandwidth nito. Gayunpaman, dahil humigit-kumulang 12.1 TFLOPS lang ang single-precision compute nito, mas mabagal ang prompt processing kumpara sa mga datacenter GPU na may mas mataas na compute density.
Paano ihahambing ang GPU na ito sa mga karaniwang datacenter accelerator?
Nag-aalok ang CMP 170HX ng malaking 64 GB na memory buffer at mataas na memory bandwidth na katulad ng mga karaniwang Ampere datacenter card, habang gumagana sa 250 W TDP. Ang pangunahing trade-off nito ay mas mababang compute throughput na humigit-kumulang 12.1 TFLOPS, kaya mas angkop ito sa mga memory-bound na gawain kaysa sa mabibigat na compute workload.
Anong software environment ang available para sa GPU na ito?
Sinusuportahan ng card ang CUDA compute capability 8.0 at maaaring ilunsad sa ONIE gamit ang mga pre-configured na template, kabilang ang PyTorch/CUDA, vLLM, Ollama, at ComfyUI. Makakakuha ka rin ng direktang SSH access para mag-install ng sarili mong library at pamahalaan ang iyong environment.
Paano gumagana ang billing kapag nagre-rent ng CMP 170HX?
Gumagamit ang mga instance sa ONIE ng per-hour billing, kaya magbabayad ka lamang para sa tagal ng pagka-aktibo ng iyong GPU.
Magrenta ng CMP 170HX kada oras
Gumawa ng account, pumili ng configuration at kumonekta sa pamamagitan ng SSH. Titigil ang billing kapag dinelete mo ang GPU.
Magrenta ng CMP 170HX