NVIDIA L4 GPU-nu saatlıq icarəyə götürün
NVIDIA L4 — 22 GB VRAM, 72 W enerji sərfiyyatı və Ada Lovelace arxitekturası əsaslı datacenter GPU-dur. Təxminən 24,2 TFLOPS tək dəqiqlikli üzən nöqtəli hesablama performansı və təxminən 221 GB/s yaddaş ötürmə qabiliyyəti təqdim edir, CUDA hesablama imkanı 8.9-dur. ONIE platformasında saatlıq ödənişlə icarəyə götürün, tam SSH girişi və PyTorch/CUDA, vLLM, Ollama və ComfyUI üçün hazır şablonlardan istifadə edin.
Texniki xüsusiyyətlər
Hər GPU üçün VRAM
Arxitektura
Hesablama imkanı
FP32 hesablama
Yaddaş ötürücülüyü
Güc limiti
Hazırda siyahıya salınmış maşınlar üçün təchizatçı tərəfindən təqdim olunan göstəricilər; real performans maşından asılı olaraq dəyişir.
Mövcud konfiqurasiyalar
Canlı ehtiyat və qiymətlər davamlı olaraq yenilənir. Son qiymət sifariş verməzdən əvvəl təsdiqlənir.
Canlı qiymətlər yüklənir…
L4 hansı işlər üçün yaxşıdır
Dil Modeli İnferensi
Əvvəlcədən konfiqurasiya edilmiş vLLM və ya Ollama şablonlarından istifadə edərək 22 GB VRAM həcmində kvantlaşdırılmış və ya kiçik-orta ölçülü dil modellərini işə salın.
Şəkil Yaratma İş Axınları
Ada Lovelace arxitekturasının imkanlarından istifadə edərək, 22 GB yaddaş çərçivəsinə rahat sığan ComfyUI proseslərini yerləşdirin.
Yüngül Fine-Tuning
PyTorch/CUDA mühitlərində yüksək gücə malik datacenter kartına ehtiyac olmadan parametr-effektiv fine-tuning və adapter təlim tapşırıqlarını icra edin.
Kütləvi Media və Görmə
72 W gücə malik datacenter GPU-da kompüter görmə inferensi və video iş yüklərini emal edin.
Bu, sizin üçün doğru GPU-dur?
İnferensi və ya orta həcmli təlim tapşırıqları üçün 22 GB VRAM və Ada Lovelace hesablama imkanı 8.9 lazım olduqda L4-ü seçin. Modelləriniz 22 GB-ı aşarsa və ya təxminən 221 GB/s-dən yüksək yaddaş ötürmə qabiliyyəti tələb edərsə, daha böyük datacenter GPU-ya keçin; əsas inkişaf tapşırıqları üçün az yaddaş tələb edirsə, daha kiçik kart seçin.
Oxşar GPU-larla müqayisə edin
Tez-tez verilən suallar
NVIDIA L4 LLM inferensi üçün uyğundurmu?
Bəli, 22 GB VRAM kiçik və orta ölçülü dil modellərini və ya kvantlaşdırılmış çəkiləri host etməyə imkan verir. Modelləri dərhal xidmət etməyə başlamaq üçün ONIE üzərində vLLM və ya Ollama şablonlarını işə sala bilərsiniz.
L4 daha böyük datacenter GPU-ları ilə necə müqayisə olunur?
L4 72 W enerji sərfiyyatı, təxminən 24,2 TFLOPS tək dəqiqlikli hesablama və təxminən 221 GB/s yaddaş ötürmə qabiliyyəti ilə səmərəlilik üçün nəzərdə tutulub. Daha böyük datacenter GPU-ları ağır təlim üçün daha çox VRAM və daha yüksək yaddaş ötürmə qabiliyyəti təklif edir, L4 isə sərfəli inferensi və yüngül iş yükləri üzərində fokuslanır.
ONIE platformasında L4 üçün hansı proqram şablonları mövcuddur?
L4-ü PyTorch/CUDA, vLLM, Ollama və ComfyUI üçün hazır şablonlardan istifadə edərək yerləşdirə bilərsiniz. Bütün instansiyalar proqram mühitinizi və CUDA hesablama imkanı 8.9 iş axınlarınızı fərdiləşdirmək üçün SSH girişi ilə təchiz olunub.
L4 instansiyaları üçün ödəniş necə işləyir?
ONIE L4 instansiyalarına saatlıq ödəniş əsasında hesablayır. Yalnız instansiyanız aktiv olduğu müddət üçün ödəniş edirsiniz, bu isə qısamüddətli təcrübələr və davamlı inferensi tapşırıqları üçün praktikdir.
L4 modelini saatlıq kirayələyin
Hesab yaradın, konfiqurasiya seçin və SSH vasitəsilə qoşulun. GPU-nu sildiyiniz zaman hesablaşma dayanır.
L4 kirayələ