NVIDIA A100 PCIE GPU'yu saatlik kiralayın
NVIDIA A100 PCIE, Ampere mimarisi üzerine kurulu bir veri merkezi GPU'sudur; 40 GB VRAM ve 250 W güç zarfına sahiptir. Standart kayan noktalı hesaplamada yaklaşık 15.6 TFLOPS ve yaklaşık 1313 GB/s bellek bant genişliği sunar ve CUDA hesaplama yeteneği 8.0'ı destekler. ONIE üzerinde bu donanımı saatlik faturalandırma, SSH erişimi ve PyTorch/CUDA, vLLM, Ollama ve ComfyUI için hazır şablonlarla kiralayabilirsiniz.
Teknik özellikler
GPU başına VRAM
Mimari
Hesaplama yeteneği
FP32 hesaplama
Bellek bant genişliği
Güç sınırı
Değerler, şu anda listelenen makineler için altyapı sağlayıcısı tarafından bildirilmiştir; gerçek performans makineye göre değişebilir.
Mevcut yapılandırmalar
Canlı stok ve fiyatlar sürekli olarak güncellenir. Son fiyat, siparişinizi vermeden önce onaylanır.
Canlı fiyatlar yükleniyor…
A100 PCIE ne için uygundur
Büyük Dil Modeli Çıkarımı
Dil modellerini vLLM veya Ollama ile sunun; token üretimi için 40 GB VRAM kapasitesinden ve yaklaşık 1313 GB/s bellek bant genişliğinden yararlanın.
Derin Öğrenme İnce Ayarı
Hesaplama yeteneği 8.0 olan Ampere veri merkezi mimarisinde PyTorch/CUDA ile eğitim ve ince ayar işleri çalıştırın.
Yüksek Çözünürlüklü Görüntü Üretimi
Tüketici kartlarının sunduğundan daha fazla bellek gerektiren karmaşık difüzyon iş akışlarını ComfyUI'da çalıştırın.
Bilimsel ve Veri Hesaplama
Yaklaşık 15.6 TFLOPS hesaplama performansından yararlanarak bellek yoğun simülasyon ve veri analitiği görevlerini işleyin.
Bu sizin için doğru GPU mu?
İş yükleriniz tüketici GPU'larının bellek sınırlarını aşıyorsa ve yüksek bant genişlikli veri merkezi donanımı gerektiriyorsa A100 PCIE 40 GB'ı tercih edin. Hafif çıkarım için daha küçük bir tüketici GPU'su seçin veya nicemlenmemiş modelleriniz ya da toplu iş boyutlarınız 40 GB'ı aşıyorsa daha yüksek VRAM'li bir veri merkezi modeline geçin.
Benzer GPU'larla karşılaştırın
| GPU | GPU başına VRAM | Mimari | FP32 hesaplama | Saatlik başlangıç fiyatı | Ayrıntılar |
|---|---|---|---|---|---|
| A100 PCIE | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | |
| A100 SXM4 | 40 GB | Ampere | ≈ 15.6 TFLOPS | — | Ayrıntılar |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | Ayrıntılar |
| A800 PCIE | 80 GB | Ampere | ≈ 15.6 TFLOPS | — | Ayrıntılar |
Sık sorulan sorular
A100 PCIE, LLM çıkarımı ve ince ayarı için uygun mu?
Evet; 40 GB VRAM kapasitesi ve yaklaşık 1313 GB/s bellek bant genişliği, tüketici kartlarına sığmayan orta ve büyük modelleri barındırmak ve ince ayarlamak için çok uygundur. Önceden yapılandırılmış vLLM, Ollama veya PyTorch/CUDA şablonlarını kullanarak iş yüklerinizi hızla dağıtabilirsiniz.
40 GB A100 PCIE, diğer GPU kademeleriyle nasıl karşılaştırılır?
Veri merkezi sınıfı bir Ampere kartı olarak, standart iş istasyonu veya tüketici GPU'larına kıyasla belirgin şekilde daha yüksek bellek bant genişliği ve VRAM sunar. Eğitim veya çıkarım hattınız daha fazla bellek kapasitesi gerektiriyorsa daha büyük bir veri merkezi GPU varyantını değerlendirmenizi öneririz.
ONIE üzerindeki örneğime nasıl bağlanır ve nasıl yapılandırırım?
Her kiralama, doğrudan komut satırı yönetimi için tam SSH erişimi içerir. Ayrıca örneğinizi PyTorch/CUDA, vLLM, Ollama veya ComfyUI için hazır şablonlarla başlatarak hemen çalışmaya başlayabilirsiniz.
A100 PCIE için faturalandırma nasıl çalışır?
ONIE örnekleri saatlik faturalandırma kullanır; böylece veri merkezi GPU'nuz etkin olduğu süre boyunca yalnızca bu süre için ödeme yaparsınız.
A100 PCIE modelini saatlik kiralayın
Bir hesap oluşturun, bir yapılandırma seçin ve SSH üzerinden bağlanın. GPU'yu sildiğinizde faturalandırma durur.
A100 PCIE kiralayın