Pronájem GPU NVIDIA CMP 170HX po hodinách
NVIDIA CMP 170HX je datacentrová GPU s architekturou Ampere, 64 GB VRAM a TDP 250 W. Nabízí přibližně 1516 GB/s propustnosti paměti a přibližně 12,1 TFLOPS výpočetního výkonu v jednoduché přesnosti (single precision) při compute capability 8.0. Na ONIE můžete tuto kartu nasadit s fakturací za hodinu, plným přístupem přes SSH a připravenými šablonami pro PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Specifikace
VRAM na GPU
Architektura
Výpočetní schopnost
Výpočetní výkon FP32
Propustnost paměti
Limit příkonu
Hodnoty uvedené poskytovatelem infrastruktury pro aktuálně nabízené stroje; skutečný výkon se mezi jednotlivými stroji liší.
Dostupné konfigurace
Aktuální dostupnost a ceny, průběžně aktualizované. Konečná cena je potvrzena před objednáním.
Načítání aktuálních cen…
K čemu se CMP 170HX hodí
Inference LLM omezená pamětí
Obsluhujte velké jazykové modely přes vLLM nebo Ollama s využitím kapacity 64 GB VRAM a přibližně 1516 GB/s propustnosti paměti.
Hluboké učení s velkou pamětí
Spouštějte úlohy PyTorch/CUDA, které vyžadují velkou kapacitu paměti a compute capability 8.0, bez rozdělování modelů mezi více zařízení.
Složité workflow pro generování obrazu
Načtěte současně více velkých difuzních checkpointů a ControlNetů v ComfyUI v rámci paměťového prostoru 64 GB.
Zpracování dat a simulace
Provádějte paměťově náročné datacentrové úlohy, které těží z vysoké propustnosti paměti, v rámci napájecí obálky 250 W.
Hodí se pro vás tato GPU?
Kartu CMP 170HX zvolte, pokud je vaše úloha omezena kapacitou a propustností paměti, nikoli hrubým výkonem v jednoduché přesnosti. Pokud potřebujete rychlejší iterace trénování, zvolte GPU s vyšším výpočetním výkonem. Pokud vaše modely nevyžadují 64 GB VRAM, vyberte menší spotřebitelskou kartu.
Porovnat s podobnými GPU
| GPU | VRAM na GPU | Architektura | Výpočetní výkon FP32 | Od / hodinu | Podrobnosti |
|---|---|---|---|---|---|
| CMP 170HX | 64 GB | Ampere | ≈ 12.1 TFLOPS | — | |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Podrobnosti |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Podrobnosti |
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je CMP 170HX vhodná pro inference LLM?
Ano, díky 64 GB VRAM a přibližně 1516 GB/s propustnosti paměti je dobře vhodná pro načítání a obsluhu velkých jazykových modelů pomocí šablon jako vLLM a Ollama. Protože však nabízí přibližně 12,1 TFLOPS výpočetního výkonu v jednoduché přesnosti, bude zpracování promptů pomalejší než u datacentrových GPU s vyšší výpočetní hustotou.
Jak si tato GPU stojí ve srovnání se standardními datacentrovými akcelerátory?
CMP 170HX nabízí velkou paměťovou vyrovnávací kapacitu 64 GB a vysokou propustnost paměti podobnou standardním datacentrovým kartám Ampere, přičemž pracuje s TDP 250 W. Jejím hlavním kompromisem je nižší výpočetní výkon, přibližně 12,1 TFLOPS, takže je vhodnější pro úlohy omezené pamětí než pro náročné výpočetní úlohy.
Jaká softwarová prostředí jsou pro tuto GPU k dispozici?
Karta podporuje CUDA compute capability 8.0 a na ONIE ji lze spustit pomocí předkonfigurovaných šablon včetně PyTorch/CUDA, vLLM, Ollama a ComfyUI. Získáte také přímý přístup přes SSH k instalaci vlastních knihoven a správě prostředí.
Jak funguje fakturace při pronájmu CMP 170HX?
Instance na ONIE jsou účtovány po hodinách, takže platíte pouze za dobu, po kterou je vaše GPU aktivní.
Pronajměte si CMP 170HX po hodinách
Vytvořte si účet, vyberte konfiguraci a připojte se přes SSH. Účtování skončí, jakmile GPU smažete.
Pronajmout CMP 170HX