NVIDIA A40 GPU-nu saatlıq icarəyə götürün
NVIDIA A40, Ampere arxitekturası əsasında qurulmuş, 8.6 hesablama qabiliyyətinə və 45 GB VRAM-a malik data mərkəzi GPU-sudur. ONIE platformasında 300 W güc sərhədi daxilində təxminən 29.9 TFLOPS tək dəqiqlikli hesablama performansı və təxminən 536 GB/s yaddaş ötürmə qabiliyyəti təmin edir. Onu saatlıq ödəniş, tam SSH girişi və PyTorch/CUDA, vLLM, Ollama və ComfyUI daxil olmaqla hazır şablonlarla işə sala bilərsiniz.
Texniki xüsusiyyətlər
Hər GPU üçün VRAM
Arxitektura
Hesablama imkanı
FP32 hesablama
Yaddaş ötürücülüyü
Güc limiti
Hazırda siyahıya salınmış maşınlar üçün təchizatçı tərəfindən təqdim olunan göstəricilər; real performans maşından asılı olaraq dəyişir.
Mövcud konfiqurasiyalar
Canlı ehtiyat və qiymətlər davamlı olaraq yenilənir. Son qiymət sifariş verməzdən əvvəl təsdiqlənir.
Canlı qiymətlər yüklənir…
A40 hansı işlər üçün yaxşıdır
Böyük dil modelləri ilə nəticəçıxarma
Əvvəlcədən konfiqurasiya edilmiş vLLM və ya Ollama şablonları ilə 45 GB-a qədər yaddaş tələb edən modelləri işlədin.
Dərin öyrənmə modellərinin əlavə təlimi
Daha böyük paket ölçüləri və model çəkiləri üçün geniş VRAM-dan istifadə edərək PyTorch/CUDA mühitində neyron şəbəkələrini əlavə təlimdən keçirin.
Generativ təsvir iş axınları
ComfyUI ilə mürəkkəb diffuziya iş axınlarını icra edin və bir neçə model yoxlama nöqtəsini eyni vaxtda yaddaşda saxlayın.
Data mərkəzində hesablama tapşırıqları
Simulyasiya və render iş yükləri üçün təxminən 29.9 TFLOPS tək dəqiqlikli hesablama gücündən və təxminən 536 GB/s yaddaş ötürmə qabiliyyətindən istifadə edin.
Bu, sizin üçün doğru GPU-dur?
İş yükünüz standart istehlakçı kartlarının yaddaş tutumunu aşan, Ampere arxitekturalı data mərkəzi GPU-sunda 45 GB VRAM tələb edirsə, A40-ı seçin. Modelləriniz daha az yaddaşa sığırsa, daha kiçik istehlakçı kartını seçin; təlim tapşırıqlarınız yaddaş ötürmə sürəti ilə ciddi şəkildə məhdudlaşırsa, daha yüksək yaddaş ötürmə qabiliyyətinə malik data mərkəzi GPU-suna keçin.
Oxşar GPU-larla müqayisə edin
Tez-tez verilən suallar
NVIDIA A40 LLM nəticəçıxarma və əlavə təlim üçün uyğundurmu?
Bəli, 45 GB VRAM tutumu A40-ı orta və böyük dil modellərini yerləşdirmək və parametrlər baxımından səmərəli əlavə təlim aparmaq üçün uyğun edir. Dərhal işə başlamaq üçün ONIE platformasında vLLM, Ollama və ya PyTorch/CUDA şablonlarını birbaşa işə sala bilərsiniz.
A40 daha kiçik istehlakçı GPU-ları və daha böyük data mərkəzi GPU-ları ilə müqayisədə necədir?
A40, 45 GB VRAM ilə yaddaşdan asılı iş yükləri üçün standart istehlakçı GPU-larından daha çox yaddaş ehtiyatı təqdim edir. Lakin onun təxminən 536 GB/s yaddaş ötürmə qabiliyyəti HBM yaddaşından istifadə edən daha yüksək səviyyəli data mərkəzi GPU-larının göstəricisindən aşağıdır.
ONIE platformasında A40 üçün hansı proqram mühitləri mövcuddur?
A40 CUDA 8.6 hesablama qabiliyyətini dəstəkləyir və PyTorch/CUDA, vLLM, Ollama və ComfyUI üçün hazır şablonlarla işə salına bilər. Proqram mühitinizi ehtiyacınıza uyğunlaşdırmağınız üçün tam SSH girişi də daxildir.
A40 instansiyaları üçün ödəniş necə hesablanır?
ONIE bütün A40 icarələri üçün saatlıq ödəniş tətbiq edir. Yalnız instansiyanızın aktiv olduğu müddət üçün ödəniş edirsiniz; bu, həm qısa sınaqlar, həm də daha uzunmüddətli istehsal işləri üçün əlverişlidir.
A40 modelini saatlıq kirayələyin
Hesab yaradın, konfiqurasiya seçin və SSH vasitəsilə qoşulun. GPU-nu sildiyiniz zaman hesablaşma dayanır.
A40 kirayələ