NVIDIA L4 GPU'yu saatlik kiralayın
NVIDIA L4, 22 GB VRAM ve 72 W güç tüketimine sahip Ada Lovelace mimarisinde bir veri merkezi GPU'sudur. Tek hassasiyetli kayan noktalı işlemde yaklaşık 24,2 TFLOPS performans sunar, yaklaşık 221 GB/s bellek bant genişliğine ve CUDA compute capability 8.9 desteğine sahiptir. ONIE üzerinde saatlik faturalandırma, tam SSH erişimi ve PyTorch/CUDA, vLLM, Ollama ve ComfyUI için hazır şablonlarla kiralayabilirsiniz.
Teknik özellikler
GPU başına VRAM
Mimari
Hesaplama yeteneği
FP32 hesaplama
Bellek bant genişliği
Güç sınırı
Değerler, şu anda listelenen makineler için altyapı sağlayıcısı tarafından bildirilmiştir; gerçek performans makineye göre değişebilir.
Mevcut yapılandırmalar
Canlı stok ve fiyatlar sürekli olarak güncellenir. Son fiyat, siparişinizi vermeden önce onaylanır.
Canlı fiyatlar yükleniyor…
L4 ne için uygundur
Dil Modeli Çıkarımı
Önceden yapılandırılmış vLLM veya Ollama şablonlarını kullanarak, 22 GB VRAM kapasitesinde nicelenmiş veya küçük ila orta ölçekli dil modellerini çalıştırın.
Görsel Üretim İş Akışları
Ada Lovelace mimarisinin özelliklerinden yararlanırken 22 GB belleğe rahatça sığan ComfyUI iş akışlarını dağıtın.
Hafif İnce Ayar
Yüksek watt değerli bir veri merkezi kartına ihtiyaç duymadan, PyTorch/CUDA ortamlarında parametre verimli ince ayar ve adaptör eğitim işlerini yürütün.
Toplu Medya ve Görüntü İşleme
72 W olarak derecelendirilmiş bir veri merkezi GPU'su üzerinde bilgisayarlı görü çıkarımı ve video iş yüklerini işleyin.
Bu sizin için doğru GPU mu?
Çıkarım veya orta ölçekli eğitim iş yükleri için 22 GB VRAM ve Ada Lovelace compute capability 8.9 gerektiğinde L4'ü tercih edin. Modelleriniz 22 GB'ı aşıyorsa veya yaklaşık 221 GB/s'nin üzerinde bellek bant genişliği gerekiyorsa daha büyük bir veri merkezi GPU'suna geçin; daha az bellek gerektiren temel geliştirme görevleri için ise daha küçük bir kart seçin.
Benzer GPU'larla karşılaştırın
| GPU | GPU başına VRAM | Mimari | FP32 hesaplama | Saatlik başlangıç fiyatı | Ayrıntılar |
|---|---|---|---|---|---|
| L4 | 22 GB | Ada Lovelace | ≈ 24.2 TFLOPS | — | |
| RTX 5060 Ti | 16 GB | Blackwell | ≈ 22.8 TFLOPS | — | Ayrıntılar |
| RTX 4060 Ti | 16 GB | Ada Lovelace | ≈ 21.6 TFLOPS | — | Ayrıntılar |
| RTX A4000 | 16 GB | Ampere | ≈ 20.6 TFLOPS | — | Ayrıntılar |
Sık sorulan sorular
NVIDIA L4, LLM çıkarımı için uygun mu?
Evet, 22 GB VRAM küçük ve orta ölçekli dil modellerini veya nicelenmiş ağırlıkları barındırmanıza olanak tanır. Modelleri hemen sunmaya başlamak için ONIE üzerinde vLLM veya Ollama şablonlarını başlatabilirsiniz.
L4, daha büyük veri merkezi GPU'larıyla nasıl karşılaştırılır?
L4, 72 W güç tüketimi, yaklaşık 24,2 TFLOPS tek hassasiyetli hesaplama gücü ve yaklaşık 221 GB/s bellek bant genişliği ile verimlilik için tasarlanmıştır. Daha büyük veri merkezi GPU'ları ağır eğitim işleri için daha fazla VRAM ve daha yüksek bellek bant genişliği sunarken, L4 uygun maliyetli çıkarım ve hafif iş yükleri üzerine odaklanır.
ONIE üzerinde L4 için hangi yazılım şablonları mevcut?
L4'ü PyTorch/CUDA, vLLM, Ollama ve ComfyUI için hazır şablonları kullanarak dağıtabilirsiniz. Tüm örneklerde SSH erişimi bulunur; böylece yazılım ortamınızı ve CUDA compute capability 8.9 iş akışlarınızı özelleştirebilirsiniz.
L4 örnekleri için faturalandırma nasıl işliyor?
ONIE, L4 örneklerini saat bazında faturalandırır. Yalnızca örneğiniz etkin olduğu süre için ödeme yaparsınız; bu da hem kısa deneyler hem de süregelen çıkarım görevleri için uygun bir model sunar.
L4 modelini saatlik kiralayın
Bir hesap oluşturun, bir yapılandırma seçin ve SSH üzerinden bağlanın. GPU'yu sildiğinizde faturalandırma durur.
L4 kiralayın