NVIDIA L40S GPU'yu saatlik kiralayın
NVIDIA L40S, ONIE üzerinden bulut kiralama ile kullanılabilen bir Ada Lovelace veri merkezi GPU'sudur. 350 W güç tüketimi içinde 45 GB VRAM, yaklaşık 73,3 TFLOPS tek hassasiyetli işlem gücü ve yaklaşık 626 GB/s bellek bant genişliği sunar. CUDA hesaplama yeteneği 8.9'u destekleyen bu örnek, saatlik faturalandırma ile yoğun AI eğitimi, çıkarım ve grafik iş yüklerini karşılar.
Teknik özellikler
GPU başına VRAM
Mimari
Hesaplama yeteneği
FP32 hesaplama
Bellek bant genişliği
Güç sınırı
Değerler, şu anda listelenen makineler için altyapı sağlayıcısı tarafından bildirilmiştir; gerçek performans makineye göre değişebilir.
Mevcut yapılandırmalar
Canlı stok ve fiyatlar sürekli olarak güncellenir. Son fiyat, siparişinizi vermeden önce onaylanır.
Canlı fiyatlar yükleniyor…
L40S ne için uygundur
Büyük Dil Modeli (LLM) Çıkarımı
45 GB bellek kapasitesi dahilinde, vLLM ve Ollama gibi hazır şablonları kullanarak nicemlenmiş veya tam hassasiyetli dil modellerini dağıtın.
Üretken Görüntü İş Akışları
Ada Lovelace mimarisinden yararlanarak ComfyUI'de karmaşık difüzyon hatlarını ve toplu üretim görevlerini çalıştırın.
Derin Öğrenme İnce Ayarı
Yaklaşık 73,3 TFLOPS işlem gücünü kullanarak PyTorch/CUDA ortamlarında sinir ağlarına ve LoRA adaptörlerine ince ayar yapın.
Veri Merkezi Grafikleri ve Render İşlemleri
Yaklaşık 626 GB/s bellek bant genişliğine sahip bir veri merkezi GPU'sundan yararlanan, başsız (headless) render ve simülasyon görevlerini çalıştırın.
Bu sizin için doğru GPU mu?
İş yükünüz 45 GB VRAM ve veri merkezi güvenilirliği gerektiriyorsa, standart tüketici kartlarının ötesine geçmek için L40S'i seçin. Modelleriniz daha az belleğe sığıyorsa, daha küçük bir iş istasyonu veya tüketici GPU'su daha ekonomiktir; nicemlenmemiş devasa temel modeller ise daha büyük bellekli bir veri merkezi GPU'sunu gerektirir.
Benzer GPU'larla karşılaştırın
| GPU | GPU başına VRAM | Mimari | FP32 hesaplama | Saatlik başlangıç fiyatı | Ayrıntılar |
|---|---|---|---|---|---|
| L40S | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | — | |
| RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | — | Ayrıntılar |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Ayrıntılar |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Ayrıntılar |
Sık sorulan sorular
NVIDIA L40S, LLM çıkarımı ve ince ayar için uygun mu?
Evet, 45 GB VRAM ve CUDA hesaplama yeteneği 8.9 ile L40S, orta ve büyük ölçekli dil modellerini sunmak ve parametre açısından verimli ince ayar yapmak için oldukça uygundur. Örnekleri önceden yapılandırılmış vLLM, Ollama veya PyTorch/CUDA şablonlarıyla başlatabilirsiniz.
L40S, tüketici GPU'ları ve daha büyük veri merkezi GPU'larıyla nasıl karşılaştırılır?
L40S, standart tüketici Ada Lovelace kartlarından daha fazla VRAM sunar; bu sayede daha büyük model ağırlıklarını dışarı aktarmadan barındırabilir. Ancak, devasa bellek sınırlı eğitim işleri için tercih edilen, yüksek bellekli ve yalnızca hesaplama odaklı veri merkezi GPU'larına kıyasla daha düşük bellek bant genişliğine sahiptir.
ONIE üzerinde L40S örneğime nasıl bağlanır ve nasıl yapılandırırım?
Örnek başlatıldığı anda ortamınıza tam SSH erişimi elde edersiniz. Ayrıca, hemen çalışmaya başlamak için PyTorch/CUDA, ComfyUI, vLLM ve Ollama dahil hazır şablonları seçebilirsiniz.
L40S için faturalandırma nasıl işler?
ONIE, tüm L40S kiralamalarında saatlik faturalandırma kullanır. Yalnızca örneğinize tahsis edilen süre için ödeme yaparsınız.
L40S modelini saatlik kiralayın
Bir hesap oluşturun, bir yapılandırma seçin ve SSH üzerinden bağlanın. GPU'yu sildiğinizde faturalandırma durur.
L40S kiralayın