NVIDIA H100 NVL GPU'yu saatlik kiralayın
NVIDIA H100 NVL, 94 GB VRAM ve hesaplama yeteneği 9.0 sunan, Hopper mimarisine sahip bir veri merkezi GPU'sudur. 400 W termal zarf içinde yaklaşık 48.3 TFLOPS tek duyarlıklı (single-precision) performans ve yaklaşık 3381 GB/s bellek bant genişliği sağlar. H100 NVL'i ONIE üzerinde kiralayın; saatlik faturalandırma, SSH erişimi ve PyTorch/CUDA, vLLM, Ollama ve ComfyUI için hazır şablonlardan yararlanın.
Teknik özellikler
GPU başına VRAM
Mimari
Hesaplama yeteneği
FP32 hesaplama
Bellek bant genişliği
Güç sınırı
Değerler, şu anda listelenen makineler için altyapı sağlayıcısı tarafından bildirilmiştir; gerçek performans makineye göre değişebilir.
Mevcut yapılandırmalar
Canlı stok ve fiyatlar sürekli olarak güncellenir. Son fiyat, siparişinizi vermeden önce onaylanır.
Canlı fiyatlar yükleniyor…
H100 NVL ne için uygundur
Büyük Dil Modeli Çıkarımı
vLLM veya Ollama ile yüksek kapasiteli dil modellerini dağıtın; token üretimini hızlandırmak için 94 GB VRAM ve yaklaşık 3381 GB/s bellek bant genişliğinden yararlanın.
Derin Öğrenme İnce Ayarı
Hopper mimarisi özelliklerini ve hesaplama yeteneği 9.0'ı kullanarak PyTorch'ta sinir ağlarını eğitin ve ince ayar yapın.
Yüksek Çözünürlüklü Görüntü Üretimi
Karmaşık ComfyUI iş akışlarını ve büyük difüzyon hatlarını sistem RAM'ine aktarmadan bellekte çalıştırın.
Bilimsel Hesaplama ve Simülasyon
Yaklaşık 48.3 TFLOPS tek duyarlıklı hesaplama gücünden yararlanan bellek yoğun veri merkezi iş yüklerini çalıştırın.
Bu sizin için doğru GPU mu?
Yapay zeka veya hesaplama iş yükleriniz, standart veri merkezi kartlarının sunduğundan daha fazla belleğe, yani 94 GB VRAM'e kadar ihtiyaç duyduğunda H100 NVL'i tercih edin. Hafif çıkarım ve geliştirme için daha küçük bir iş istasyonu veya tüketici GPU'su daha uygundur; modelleriniz 94 GB'ı aşıyorsa çoklu GPU kurulumu veya daha büyük bir bellek seçeneği gereklidir.
Benzer GPU'larla karşılaştırın
| GPU | GPU başına VRAM | Mimari | FP32 hesaplama | Saatlik başlangıç fiyatı | Ayrıntılar |
|---|---|---|---|---|---|
| H100 NVL | 94 GB | Hopper | ≈ 48.3 TFLOPS | — | |
| H100 SXM | 80 GB | Hopper | ≈ 53.5 TFLOPS | — | Ayrıntılar |
| H200 NVL | 140 GB | Hopper | ≈ 48.3 TFLOPS | — | Ayrıntılar |
| H100 PCIE | 80 GB | Hopper | ≈ 41 TFLOPS | — | Ayrıntılar |
Sık sorulan sorular
H100 NVL, LLM çıkarımı ve ince ayar için uygun mu?
Evet. 94 GB VRAM ve yaklaşık 3381 GB/s bellek bant genişliği, daha küçük veri merkezi GPU'larına sığmayan büyük dil modellerini sunmak ve ince ayarlamak için onu iyi bir seçenek haline getirir.
H100 NVL, standart H100 varyantlarıyla nasıl karşılaştırılır?
H100 NVL, genişletilmiş 94 GB VRAM kapasitesi ve 400 W güç zarfı sunarak standart Hopper veri merkezi yapılandırmalarına kıyasla ekstra bellek alanı sağlar.
ONIE üzerinde bu GPU için hangi yazılım şablonları mevcut?
H100 NVL'i, hesaplama yeteneği 9.0'ı destekleyen PyTorch/CUDA, vLLM, Ollama ve ComfyUI için önceden yapılandırılmış şablonlarla dağıtabilirsiniz.
H100 NVL kiralarken faturalandırma ve erişim nasıl çalışır?
ONIE üzerindeki örnekler saatlik faturalandırma kullanır ve ortamınızı ve iş akışlarınızı hemen yönetebilmeniz için doğrudan SSH erişimi sağlar.
H100 NVL modelini saatlik kiralayın
Bir hesap oluşturun, bir yapılandırma seçin ve SSH üzerinden bağlanın. GPU'yu sildiğinizde faturalandırma durur.
H100 NVL kiralayın