NVIDIA H200 NVL GPU'yu saatlik kiralayın
NVIDIA H200 NVL, bellek yoğun iş yükleri için tasarlanmış, Hopper mimarili bir veri merkezi GPU'sudur. 140 GB VRAM ve yaklaşık 3884 GB/s bellek bant genişliği sunar. 600 W güç zarfında çalışır, hesaplama yeteneği 9.0'ı destekler ve yaklaşık 48.3 TFLOPS standart kayan noktalı hesaplama performansı sağlar. Bu işlemciyi ONIE üzerinde saatlik faturalandırma, doğrudan SSH erişimi ve hazır şablonlarla dağıtabilirsiniz.
Teknik özellikler
GPU başına VRAM
Mimari
Hesaplama yeteneği
FP32 hesaplama
Bellek bant genişliği
Güç sınırı
Değerler, şu anda listelenen makineler için altyapı sağlayıcısı tarafından bildirilmiştir; gerçek performans makineye göre değişebilir.
Mevcut yapılandırmalar
Canlı stok ve fiyatlar sürekli olarak güncellenir. Son fiyat, siparişinizi vermeden önce onaylanır.
Canlı fiyatlar yükleniyor…
H200 NVL ne için uygundur
LLM Çıkarımı
Büyük modelleri parçalamadan bellekte çalıştırın; 140 GB VRAM kapasitesinden ve yaklaşık 3884 GB/s bellek bant genişliğinden yararlanın.
Model İnce Ayarı ve Eğitimi
Hopper hesaplama yeteneği 9.0 ve geniş GPU belleğini kullanarak büyük yığın boyutlarıyla derin öğrenme modellerini eğitin ve uyarlayın.
Yüksek Verimli Toplu İşleme
Önceden yapılandırılmış PyTorch/CUDA, vLLM veya Ollama şablonlarını kullanarak büyük veri kümelerini ve uzun bağlam pencerelerini verimli şekilde işleyin.
Bilimsel Hesaplama ve Simülasyon
Yaklaşık 48.3 TFLOPS standart kayan noktalı performans ve önemli miktarda yerleşik bellek gerektiren karmaşık veri merkezi simülasyonlarını çalıştırın.
Bu sizin için doğru GPU mu?
Birincil darboğazınız VRAM kapasitesi ve bellek bant genişliği olduğunda, özellikle büyük modelleri tek bir kartta barındırmak için H200 NVL'yi seçin. Daha hafif çıkarım, standart görüntü üretimi veya 140 GB belleğe ihtiyaç duymayan geliştirme görevleri yapıyorsanız, daha küçük bir iş istasyonu veya tüketici GPU'su daha pratik bir seçimdir.
Benzer GPU'larla karşılaştırın
| GPU | GPU başına VRAM | Mimari | FP32 hesaplama | Saatlik başlangıç fiyatı | Ayrıntılar |
|---|---|---|---|---|---|
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | Ayrıntılar |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Ayrıntılar |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Ayrıntılar |
Sık sorulan sorular
Neden standart bir Hopper GPU yerine H200 NVL'yi seçmelisiniz?
H200 NVL, 140 GB VRAM ve yaklaşık 3884 GB/s bellek bant genişliği sunar; bu, önceki Hopper nesli kartların bellek kapasitesinden ve bant genişliğinden daha yüksektir. Bu sayede daha büyük modeller ve bağlam pencereleri tek bir GPU'ya sığabilir.
H200 NVL, vLLM veya Ollama ile LLM sunumu için uygun mu?
Evet, 140 GB bellek havuzu ve yüksek bellek bant genişliği, büyük dil modellerinin sunulması için oldukça uygundur. ONIE, hızlı başlamanıza yardımcı olmak için hem vLLM hem de Ollama için hazır şablonlar sunar.
Hangi yazılım ortamları ve erişim yöntemleri mevcuttur?
Her örnek, özel yapılandırma için tam SSH erişimi içerir. Ayrıca PyTorch/CUDA, vLLM, Ollama ve ComfyUI dahil önceden yüklenmiş şablonlarla örnekleri başlatabilirsiniz.
H200 NVL için ONIE üzerindeki faturalandırma nasıl çalışır?
Örnekler saatlik bazda faturalandırılır. Yalnızca H200 NVL örneğiniz etkin olduğu süre için ödeme yaparsınız.
H200 NVL modelini saatlik kiralayın
Bir hesap oluşturun, bir yapılandırma seçin ve SSH üzerinden bağlanın. GPU'yu sildiğinizde faturalandırma durur.
H200 NVL kiralayın