NVIDIA CMP 170HX GPU'yu saatlik kiralayın
NVIDIA CMP 170HX, 64 GB VRAM ve 250 W TDP'ye sahip, Ampere mimarili bir veri merkezi GPU'sudur. Yaklaşık 1516 GB/s bellek bant genişliği ile compute capability 8.0 üzerinde yaklaşık 12.1 TFLOPS tek hassasiyetli (single-precision) işlem gücü sunar. ONIE üzerinde bu kartı saatlik faturalandırma, tam SSH erişimi ve PyTorch/CUDA, vLLM, Ollama ve ComfyUI için hazır şablonlarla dağıtabilirsiniz.
Teknik özellikler
GPU başına VRAM
Mimari
Hesaplama yeteneği
FP32 hesaplama
Bellek bant genişliği
Güç sınırı
Değerler, şu anda listelenen makineler için altyapı sağlayıcısı tarafından bildirilmiştir; gerçek performans makineye göre değişebilir.
Mevcut yapılandırmalar
Canlı stok ve fiyatlar sürekli olarak güncellenir. Son fiyat, siparişinizi vermeden önce onaylanır.
Canlı fiyatlar yükleniyor…
CMP 170HX ne için uygundur
Bellek Sınırlı LLM Çıkarımı
64 GB VRAM kapasitesinden ve yaklaşık 1516 GB/s bellek bant genişliğinden yararlanarak vLLM veya Ollama ile büyük dil modellerine hizmet verin.
Yüksek Bellekli Derin Öğrenme
Önemli bellek kapasitesi ve compute capability 8.0 gerektiren PyTorch/CUDA iş yüklerini, modelleri cihazlar arasında bölmeden çalıştırın.
Karmaşık Görüntü Üretim İş Akışları
ComfyUI'da birden fazla büyük difüzyon kontrol noktasını ve ControlNet'leri aynı anda 64 GB bellek havuzu içinde yükleyin.
Veri İşleme ve Simülasyon
250 W güç zarfı içinde yüksek bellek aktarım hızından yararlanan, bellek yoğun veri merkezi görevlerini yürütün.
Bu sizin için doğru GPU mu?
İş yükünüz ham tek hassasiyetli işlem gücünden çok bellek kapasitesi ve bant genişliği ile sınırlandığında CMP 170HX'i tercih edin. Daha hızlı eğitim yinelemelerine ihtiyacınız varsa daha yüksek işlem gücüne sahip bir GPU seçin; modelleriniz 64 GB VRAM gerektirmiyorsa daha küçük bir tüketici kartı tercih edin.
Benzer GPU'larla karşılaştırın
| GPU | GPU başına VRAM | Mimari | FP32 hesaplama | Saatlik başlangıç fiyatı | Ayrıntılar |
|---|---|---|---|---|---|
| CMP 170HX | 64 GB | Ampere | ≈ 12.1 TFLOPS | — | |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Ayrıntılar |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Ayrıntılar |
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Ayrıntılar |
Sık sorulan sorular
CMP 170HX LLM çıkarımı için uygun mu?
Evet. 64 GB VRAM kapasitesi ve yaklaşık 1516 GB/s bellek bant genişliği, vLLM ve Ollama gibi şablonlarla büyük dil modellerini yükleyip sunmak için oldukça uygundur. Ancak yaklaşık 12.1 TFLOPS tek hassasiyetli işlem gücü sunduğundan, istem işleme (prompt processing) süreci daha yüksek işlem yoğunluğuna sahip veri merkezi GPU'larına göre daha yavaş olacaktır.
Bu GPU, standart veri merkezi hızlandırıcılarıyla nasıl karşılaştırılır?
CMP 170HX, 250 W TDP'de çalışırken standart Ampere veri merkezi kartlarına benzer yüksek bellek bant genişliği ve büyük bir 64 GB bellek tamponu sunar. Temel ödünleşimi yaklaşık 12.1 TFLOPS ile daha düşük işlem gücü olup, ağır işlem yoğunluklu iş yüklerinden çok bellek odaklı görevler için daha uygundur.
Bu GPU için hangi yazılım ortamları mevcuttur?
Kart, CUDA compute capability 8.0'ı destekler ve ONIE üzerinde PyTorch/CUDA, vLLM, Ollama ve ComfyUI dahil önceden yapılandırılmış şablonlarla başlatılabilir. Ayrıca özel kütüphaneleri kurmak ve ortamınızı yönetmek için doğrudan SSH erişimi elde edersiniz.
CMP 170HX kiralandığında faturalandırma nasıl işler?
ONIE üzerindeki instance'lar saatlik faturalandırma kullanır; bu nedenle yalnızca GPU'nuzun etkin kaldığı süre için ödeme yaparsınız.
CMP 170HX modelini saatlik kiralayın
Bir hesap oluşturun, bir yapılandırma seçin ve SSH üzerinden bağlanın. GPU'yu sildiğinizde faturalandırma durur.
CMP 170HX kiralayın