NVIDIA A40 GPU'yu saatlik kiralayın
NVIDIA A40, Ampere mimarisi üzerine inşa edilmiş, hesaplama yeteneği 8.6 ve 45 GB VRAM'e sahip bir veri merkezi GPU'sudur. ONIE üzerinde yaklaşık 29.9 TFLOPS tek hassasiyetli (single-precision) performans ve yaklaşık 536 GB/s bellek bant genişliği sunar ve 300 W güç zarfı içinde çalışır. Saatlik faturalandırma, tam SSH erişimi ve PyTorch/CUDA, vLLM, Ollama ve ComfyUI dahil hazır şablonlarla dağıtım yapabilirsiniz.
Teknik özellikler
GPU başına VRAM
Mimari
Hesaplama yeteneği
FP32 hesaplama
Bellek bant genişliği
Güç sınırı
Değerler, şu anda listelenen makineler için altyapı sağlayıcısı tarafından bildirilmiştir; gerçek performans makineye göre değişebilir.
Mevcut yapılandırmalar
Canlı stok ve fiyatlar sürekli olarak güncellenir. Son fiyat, siparişinizi vermeden önce onaylanır.
Canlı fiyatlar yükleniyor…
A40 ne için uygundur
Büyük Dil Modeli (LLM) Çıkarımı
Önceden yapılandırılmış vLLM veya Ollama şablonlarını kullanarak 45 GB belleğe kadar ihtiyaç duyan modelleri çalıştırın.
Derin Öğrenme İnce Ayarı
Daha büyük toplu iş boyutları ve ağırlıklar için geniş VRAM ile PyTorch/CUDA üzerinde sinir ağlarına ince ayar yapın.
Üretken Görüntü İş Akışları
ComfyUI kullanarak karmaşık difüzyon hatlarını çalıştırın ve birden fazla kontrol noktasını aynı anda bellekte tutun.
Veri Merkezi Hesaplama Görevleri
Simülasyon ve render iş yükleri için yaklaşık 29.9 TFLOPS tek hassasiyetli işlem gücünü ve yaklaşık 536 GB/s bellek bant genişliğini kullanın.
Bu sizin için doğru GPU mu?
İş yükünüz Ampere mimarisinde 45 GB VRAM gerektiriyorsa, standart tüketici kartlarının bellek kapasitesini aşan A40'ı tercih edin. Modelleriniz daha az bellekle çalışabiliyorsa daha küçük bir tüketici kartı seçin; eğitim işleriniz bellek aktarım hızıyla ciddi şekilde sınırlanıyorsa daha yüksek bant genişliğine sahip bir veri merkezi GPU'suna geçin.
Benzer GPU'larla karşılaştırın
| GPU | GPU başına VRAM | Mimari | FP32 hesaplama | Saatlik başlangıç fiyatı | Ayrıntılar |
|---|---|---|---|---|---|
| A40 | 45 GB | Ampere | ≈ 29.9 TFLOPS | — | |
| RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | — | Ayrıntılar |
| RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | — | Ayrıntılar |
| RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | — | Ayrıntılar |
Sık sorulan sorular
NVIDIA A40, LLM çıkarımı ve ince ayarı için uygun mu?
Evet, 45 GB VRAM kapasitesi, A40'ı orta ve büyük ölçekli dil modellerini barındırmak ve parametre verimli ince ayar yapmak için çok uygun hale getirir. Hemen çalışmaya başlamak için ONIE üzerinde doğrudan vLLM, Ollama veya PyTorch/CUDA şablonlarını başlatabilirsiniz.
A40, daha küçük tüketici GPU'ları ve daha büyük veri merkezi GPU'ları ile nasıl karşılaştırılır?
A40, bellek sınırlı iş yükleri için standart tüketici GPU'larına kıyasla daha fazla bellek alanı sunan 45 GB VRAM sağlar. Ancak yaklaşık 536 GB/s olan bellek bant genişliği, HBM bellek kullanan üst düzey veri merkezi GPU'larının bant genişliğinden daha düşüktür.
ONIE üzerinde A40 için hangi yazılım ortamları mevcut?
A40, CUDA hesaplama yeteneği 8.6'yı destekler ve PyTorch/CUDA, vLLM, Ollama ve ComfyUI için hazır şablonlarla dağıtılabilir. Yazılım yığınınızı ihtiyacınıza göre özelleştirebilmeniz için tam SSH erişimi dahildir.
A40 örnekleri için faturalandırma nasıl çalışır?
ONIE, tüm A40 kiralamalarında saatlik faturalandırma kullanır. Yalnızca örneğinizin aktif olduğu süre için ödeme yaparsınız; bu da hem kısa deneyler hem de uzun süreli üretim çalışmaları için pratik bir seçenek sunar.
A40 modelini saatlik kiralayın
Bir hesap oluşturun, bir yapılandırma seçin ve SSH üzerinden bağlanın. GPU'yu sildiğinizde faturalandırma durur.
A40 kiralayın