NVIDIA A100 SXM4 GPU-nu saatlıq icarəyə götürün
NVIDIA A100 SXM4 — 40 GB VRAM və 400 W güc limiti ilə təchiz edilmiş Ampere arxitekturalı məlumat mərkəzi GPU-sudur. O, təxminən 1313 GB/s yaddaş ötürmə sürəti və 8.0 hesablama qabiliyyətində təxminən 15.6 TFLOPS tək dəqiqlikli hesablama performansı təmin edir. Onu ONIE üzərindən saatlıq ödəniş, birbaşa SSH girişi və PyTorch/CUDA, vLLM, Ollama və ComfyUI daxil olmaqla hazır şablonlarla icarəyə götürün.
Texniki xüsusiyyətlər
Hər GPU üçün VRAM
Arxitektura
Hesablama imkanı
FP32 hesablama
Yaddaş ötürücülüyü
Güc limiti
Hazırda siyahıya salınmış maşınlar üçün təchizatçı tərəfindən təqdim olunan göstəricilər; real performans maşından asılı olaraq dəyişir.
Mövcud konfiqurasiyalar
Canlı ehtiyat və qiymətlər davamlı olaraq yenilənir. Son qiymət sifariş verməzdən əvvəl təsdiqlənir.
Canlı qiymətlər yüklənir…
A100 SXM4 hansı işlər üçün yaxşıdır
LLM inferensi və modellərin istifadəyə verilməsi
40 GB VRAM-a sığan dil modellərini əvvəlcədən konfiqurasiya edilmiş vLLM və ya Ollama şablonları və yüksək yaddaş ötürmə sürəti ilə işlədin.
Dərin öyrənmə modellərinin təlimi
Təxminən 1313 GB/s yaddaş ötürmə sürətinə malik Ampere məlumat mərkəzi arxitekturasında PyTorch/CUDA ilə neyron şəbəkələrini öyrədin və əlavə təlimdən keçirin.
Paket şəklində təsvir generasiyası
İstehlakçı seqmentinə aid GPU-ların yaddaş məhdudiyyətləri ilə üzləşmədən yüksək ayırdetməli diffuziya təsvirləri yaradın və ComfyUI-də mürəkkəb iş axınlarını icra edin.
Elmi hesablamalar
8.0 hesablama qabiliyyətindən və SXM4 form-faktorunun güc limitlərindən faydalanan, çox yaddaş tələb edən simulyasiyaları və məlumat emalı işlərini icra edin.
Bu, sizin üçün doğru GPU-dur?
Təlim və ya inferens işləriniz istehlakçı seqmentinə aid GPU-ların yaddaş limitlərini aşırsa və məlumat mərkəzi səviyyəsində yaddaş ötürmə sürəti tələb edirsə, 40 GB A100 SXM4 seçin. Kvantlaşdırılmamış modelləriniz 40 GB-dan böyükdürsə, daha çox VRAM-a malik məlumat mərkəzi GPU-sunu seçin; yüngül inferens və inkişaf işləri üçün isə daha kiçik iş stansiyası və ya istehlakçı seqmentinə aid GPU seçin.
Oxşar GPU-larla müqayisə edin
Tez-tez verilən suallar
40 GB A100 SXM4 LLM inferensi və əlavə təlim üçün uyğundurmu?
Bəli. 40 GB VRAM və təxminən 1313 GB/s yaddaş ötürmə sürəti onu orta ölçülü dil modellərini istifadəyə vermək və parametrlərə qənaət edən üsullarla əlavə təlimdən keçirmək üçün uyğun edir. Təqdim olunan vLLM, Ollama və ya PyTorch/CUDA şablonlarından istifadə edərək modelləri tez işə sala bilərsiniz.
Bu 40 GB SXM4 modeli digər məlumat mərkəzi GPU-ları ilə necə müqayisə olunur?
SXM4 variantı 400 W istilik gücü limitində işləyir və 8.0 hesablama qabiliyyətinə malik Ampere arxitekturasında davamlı məlumat mərkəzi performansı təmin edir. Modeli hissələrə bölməmək üçün iş yükünüzə 40 GB-dan çox yaddaş lazımdırsa, daha yüksək tutumlu Ampere və ya daha yeni nəsil məlumat mərkəzi GPU-sunu nəzərdən keçirin.
ONIE üzərindən A100 SXM4 üçün ödəniş necə hesablanır?
İcarəniz aktiv olduğu müddətdə instansiyalar üçün ödəniş saatlıq hesablanır. Beləliklə, resurs tələb edən təlim və ya paket inferens işlərini icra edib bitirdikdən sonra instansiyanı dayandıra bilərsiniz.
A100 SXM4 instansiyama necə qoşula və onu qura bilərəm?
Maşına birbaşa SSH girişi, həmçinin PyTorch/CUDA, vLLM, Ollama və ComfyUI üçün istifadəyə hazır şablonlar əldə edirsiniz. Dərhal işə başlamaq üçün instansiyanı işə salarkən istədiyiniz şablonu seçin.
A100 SXM4 modelini saatlıq kirayələyin
Hesab yaradın, konfiqurasiya seçin və SSH vasitəsilə qoşulun. GPU-nu sildiyiniz zaman hesablaşma dayanır.
A100 SXM4 kirayələ