NVIDIA CMP 170HX GPU-nu saatlıq icarəyə götürün
NVIDIA CMP 170HX, 64 GB VRAM və 250 W TDP ilə təchiz edilmiş Ampere arxitekturalı məlumat mərkəzi GPU-sudur. O, təxminən 1516 GB/s yaddaş ötürmə qabiliyyəti və compute capability 8.0 səviyyəsində təxminən 12.1 TFLOPS tək dəqiqlikli hesablama gücü təmin edir. ONIE üzərində bu kartı saatlıq ödəniş, tam SSH girişi və PyTorch/CUDA, vLLM, Ollama və ComfyUI üçün hazır şablonlarla işə sala bilərsiniz.
Texniki xüsusiyyətlər
Hər GPU üçün VRAM
Arxitektura
Hesablama imkanı
FP32 hesablama
Yaddaş ötürücülüyü
Güc limiti
Hazırda siyahıya salınmış maşınlar üçün təchizatçı tərəfindən təqdim olunan göstəricilər; real performans maşından asılı olaraq dəyişir.
Mövcud konfiqurasiyalar
Canlı ehtiyat və qiymətlər davamlı olaraq yenilənir. Son qiymət sifariş verməzdən əvvəl təsdiqlənir.
Canlı qiymətlər yüklənir…
CMP 170HX hansı işlər üçün yaxşıdır
Yaddaş ötürmə qabiliyyətindən asılı LLM inferensi
64 GB VRAM tutumundan və təxminən 1516 GB/s yaddaş ötürmə qabiliyyətindən istifadə edərək vLLM və ya Ollama vasitəsilə böyük dil modellərini işlədin.
Böyük yaddaş tələb edən dərin öyrənmə
Modelləri cihazlar arasında bölmədən böyük yaddaş tutumu və compute capability 8.0 tələb edən PyTorch/CUDA iş yüklərini işlədin.
Mürəkkəb təsvir yaratma iş axınları
64 GB yaddaş daxilində ComfyUI-də bir neçə böyük diffuziya modelinin checkpoint faylını və idarəetmə şəbəkəsini eyni vaxtda yükləyin.
Məlumatların emalı və simulyasiya
250 W enerji sərfiyyatı həddində yüksək yaddaş ötürmə sürətindən faydalanan, böyük yaddaş tələb edən məlumat mərkəzi tapşırıqlarını yerinə yetirin.
Bu, sizin üçün doğru GPU-dur?
İş yükünüz xam tək dəqiqlikli hesablama gücündən çox yaddaş tutumu və ötürmə qabiliyyəti ilə məhdudlaşırsa, CMP 170HX seçin. Daha sürətli təlim iterasiyaları lazımdırsa, daha yüksək hesablama gücünə malik GPU seçin; modellərinizə 64 GB VRAM lazım deyilsə, daha kiçik istehlakçı kartına üstünlük verin.
Oxşar GPU-larla müqayisə edin
Tez-tez verilən suallar
CMP 170HX LLM inferensi üçün uyğundurmu?
Bəli. 64 GB VRAM və təxminən 1516 GB/s yaddaş ötürmə qabiliyyəti onu vLLM və Ollama kimi şablonlardan istifadə edərək böyük dil modellərini yükləmək və işlətmək üçün əlverişli edir. Lakin təxminən 12.1 TFLOPS tək dəqiqlikli hesablama gücünə malik olduğundan, prompt emalı daha yüksək hesablama sıxlığına malik məlumat mərkəzi GPU-larına nisbətən yavaş olacaq.
Bu GPU standart məlumat mərkəzi sürətləndiriciləri ilə necə müqayisə olunur?
CMP 170HX, 250 W TDP ilə işləyərkən standart Ampere məlumat mərkəzi kartlarına bənzər 64 GB böyük yaddaş tutumu və yüksək yaddaş ötürmə qabiliyyəti təklif edir. Əsas məhdudiyyəti təxminən 12.1 TFLOPS səviyyəsində daha aşağı hesablama gücüdür. Buna görə də o, ağır hesablama işlərindən çox yaddaşla məhdudlaşan tapşırıqlar üçün uyğundur.
Bu GPU üçün hansı proqram mühitləri mövcuddur?
Kart CUDA compute capability 8.0 dəstəkləyir və ONIE üzərində PyTorch/CUDA, vLLM, Ollama və ComfyUI daxil olmaqla əvvəlcədən konfiqurasiya edilmiş şablonlarla işə salına bilər. Fərdi kitabxanaları quraşdırmaq və mühitinizi idarə etmək üçün birbaşa SSH girişi də əldə edirsiniz.
CMP 170HX icarəsi üçün ödəniş necə hesablanır?
ONIE üzərindəki instansiyalar üçün ödəniş saatlıq hesablanır, yəni yalnız GPU-nuzun aktiv qaldığı müddət üçün ödəniş edirsiniz.
CMP 170HX modelini saatlıq kirayələyin
Hesab yaradın, konfiqurasiya seçin və SSH vasitəsilə qoşulun. GPU-nu sildiyiniz zaman hesablaşma dayanır.
CMP 170HX kirayələ