Prenájom GPU NVIDIA CMP 170HX po hodinách
NVIDIA CMP 170HX je datacentrická GPU s architektúrou Ampere, vybavená 64 GB VRAM a TDP 250 W. Ponúka približne 1516 GB/s šírky pásma pamäte a približne 12.1 TFLOPS výpočtového výkonu vo jednoduchej presnosti pri compute capability 8.0. Na ONIE môžete túto kartu nasadiť s fakturáciou za hodinu, plným prístupom cez SSH a pripravenými šablónami pre PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Špecifikácie
VRAM na jedno GPU
Architektúra
Výpočtová schopnosť
Výpočtový výkon FP32
Šírka pásma pamäte
Limit príkonu
Hodnoty uvádza poskytovateľ infraštruktúry pre aktuálne ponúkané stroje; skutočný výkon sa môže podľa stroja líšiť.
Dostupné konfigurácie
Aktuálna dostupnosť a ceny, priebežne aktualizované. Konečná cena sa potvrdí pred objednávkou.
Načítavajú sa aktuálne ceny…
Na čo sa CMP 170HX hodí
Inferencia LLM viazaná na pamäť
Obsluhujte veľké jazykové modely cez vLLM alebo Ollama s využitím kapacity 64 GB VRAM a šírky pásma pamäte približne 1516 GB/s.
Hlboké učenie s vysokou kapacitou pamäte
Spúšťajte úlohy PyTorch/CUDA, ktoré vyžadujú značnú kapacitu pamäte a compute capability 8.0, bez rozdeľovania modelov medzi viaceré zariadenia.
Komplexné pracovné postupy generovania obrázkov
Načítajte súčasne viacero veľkých difúznych checkpointov a control netov v ComfyUI v rámci pamäťovej kapacity 64 GB.
Spracovanie dát a simulácie
Spúšťajte náročné datacentrické úlohy, ktoré profitujú z vysokej priepustnosti pamäte v rámci výkonového limitu 250 W.
Je to pre vás správne GPU?
Zvoľte CMP 170HX, keď je vaša úloha obmedzená kapacitou a šírkou pásma pamäte, a nie hrubým výpočtovým výkonom vo jednoduchej presnosti. Ak potrebujete rýchlejšie iterácie trénovania, zvoľte GPU s vyššou výpočtovou priepustnosťou. Ak vaše modely nepotrebujú 64 GB VRAM, vyberte menšiu spotrebiteľskú kartu.
Porovnajte s podobnými GPU
| GPU | VRAM na jedno GPU | Architektúra | Výpočtový výkon FP32 | Od / hodina | Podrobnosti |
|---|---|---|---|---|---|
| CMP 170HX | 64 GB | Ampere | ≈ 12.1 TFLOPS | — | |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Podrobnosti |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Podrobnosti |
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je CMP 170HX vhodná na inferenciu LLM?
Áno, vďaka 64 GB VRAM a šírke pásma pamäte približne 1516 GB/s je veľmi vhodná na načítanie a obsluhu veľkých jazykových modelov pomocou šablón, ako sú vLLM a Ollama. Keďže však poskytuje približne 12.1 TFLOPS výpočtového výkonu vo jednoduchej presnosti, spracovanie promptov bude pomalšie ako na datacentrických GPU s vyššou výpočtovou hustotou.
Ako sa táto GPU porovnáva so štandardnými datacentrickými akcelerátormi?
CMP 170HX ponúka veľkú pamäťovú kapacitu 64 GB a vysokú šírku pásma pamäte podobnú štandardným datacentrickým kartám Ampere, pričom pracuje pri TDP 250 W. Jej hlavným kompromisom je nižší výpočtový výkon približne 12.1 TFLOPS, vďaka čomu je vhodnejšia na úlohy viazané na pamäť než na náročné výpočtové záťaže.
Aké softvérové prostredia sú pre túto GPU k dispozícii?
Karta podporuje CUDA compute capability 8.0 a na ONIE ju môžete spustiť pomocou predkonfigurovaných šablón vrátane PyTorch/CUDA, vLLM, Ollama a ComfyUI. Získate tiež priamy prístup cez SSH na inštaláciu vlastných knižníc a správu prostredia.
Ako funguje fakturácia pri prenájme CMP 170HX?
Inštancie na ONIE sa účtujú za hodinu, takže platíte iba za čas, počas ktorého je vaša GPU aktívna.
Prenajmite si CMP 170HX na hodiny
Vytvorte si účet, vyberte konfiguráciu a pripojte sa cez SSH. Fakturácia sa zastaví, keď GPU vymažete.
Prenajať CMP 170HX