იქირავეთ NVIDIA L40S GPU საათობრივად
NVIDIA L40S არის Ada Lovelace-ის დატაცენტრის GPU, რომელიც ხელმისაწვდომია ქლაუდ ქირაობისთვის ONIE-ზე. ის გთავაზობთ 45 GB VRAM-ს, დაახლოებით 73.3 TFLOPS ერთსიზუსტიან (single-precision) გამოთვლით სიმძლავრეს და დაახლოებით 626 GB/s მეხსიერების გამტარუნარიანობას 350 W სიმძლავრის ფარგლებში. CUDA compute capability 8.9-ის მხარდაჭერით, ეს ინსტანცია ამუშავებს მოთხოვნადი AI ტრენინგის, ინფერენსისა და გრაფიკული დატვირთვებს საათობრივი ანგარიშსწორებით.
სპეციფიკაციები
VRAM თითო GPU-ზე
არქიტექტურა
გამოთვლითი შესაძლებლობა
FP32 გამოთვლები
მეხსიერების გამტარუნარიანობა
სიმძლავრის ლიმიტი
მნიშვნელობები მოწოდებულია ინფრასტრუქტურის პროვაიდერის მიერ ამჟამად ჩამონათვალში არსებული მანქანებისთვის; რეალური მუშაობა მანქანის მიხედვით განსხვავდება.
ხელმისაწვდომი კონფიგურაციები
რეალურ დროში განახლებადი მარაგი და ფასები. საბოლოო ფასი დადასტურდება შეკვეთამდე.
რეალური ფასები იტვირთება…
რისთვისაა კარგი L40S
LLM ინფერენსი
გაუშვით კვანტიზებული ან სრული სიზუსტის ენობრივი მოდელები მზა შაბლონებით, როგორიცაა vLLM და Ollama, 45 GB მეხსიერების ფარგლებში.
გენერაციული სურათების სამუშაო პროცესები
გაუშვით რთული დიფუზიის პაიფლაინები და პაკეტური გენერაციის ამოცანები ComfyUI-ში Ada Lovelace არქიტექტურის გამოყენებით.
ღრმა სწავლების დახვეწა (fine-tuning)
დახვენეთ ნეირონული ქსელები და LoRA ადაპტერები PyTorch/CUDA გარემოში დაახლოებით 73.3 TFLOPS გამოთვლითი სიმძლავრის გამოყენებით.
დატაცენტრის გრაფიკა და რენდერინგი
შეასრულეთ headless რენდერინგისა და სიმულაციის ამოცანები, რომლებიც სარგებლობს დატაცენტრის GPU-თი დაახლოებით 626 GB/s მეხსიერების გამტარუნარიანობით.
ეს თქვენთვის სწორი GPU არის?
აირჩიეთ L40S, როდესაც თქვენს დატვირთვას სჭირდება 45 GB VRAM და დატაცენტრის სანდოობა, სტანდარტული სამომხმარებლო ბარათების მიღმა. თუ თქვენი მოდელები ჯდება ნაკლებ მეხსიერებაში, უფრო მცირე სამუშაო სადგურის ან სამომხმარებლო GPU-ს გამოყენება უფრო ეკონომიურია, ხოლო უზარმაზარი, არაკვანტიზებული საბაზისო მოდელებისთვის მიზანშეწონილია უფრო დიდი მეხსიერების დატაცენტრის GPU.
შეადარეთ მსგავს GPU-ებთან
ხშირად დასმული კითხვები
შესაფერისია თუ არა NVIDIA L40S LLM ინფერენსისა და დახვეწისთვის?
დიახ, 45 GB VRAM-ითა და CUDA compute capability 8.9-ით, L40S კარგად შეეფერება საშუალო და დიდი ზომის ენობრივი მოდელების მომსახურებას და პარამეტრულად ეფექტური დახვეწის (fine-tuning) გაშვებას. შეგიძლიათ ინსტანციები გაუშვათ წინასწარ კონფიგურირებული vLLM, Ollama ან PyTorch/CUDA შაბლონებით.
როგორ შედარდება L40S სამომხმარებლო GPU-ებთან ან უფრო დიდ დატაცენტრის GPU-ებთან?
L40S გთავაზობთ მეტ VRAM-ს, ვიდრე სტანდარტული სამომხმარებლო Ada Lovelace ბარათები, რაც საშუალებას აძლევს უფრო დიდი მოდელის წონების ჩატვირთვას მეხსიერებიდან გადმოტვირთვის გარეშე. თუმცა, მას აქვს დაბალი მეხსიერების გამტარუნარიანობა, ვიდრე მხოლოდ გამოთვლითი, მაღალი მეხსიერების დატაცენტრის GPU-ებს, რომლებიც უპირატესია უზარმაზარი, მეხსიერებაზე დამოკიდებული ტრენინგის ამოცანებისთვის.
როგორ დავუკავშირდე და დავაკონფიგურირო ჩემი L40S ინსტანცია ONIE-ზე?
ინსტანციის ჩართვისთანავე თქვენ იღებთ სრულ SSH წვდომას თქვენს გარემოზე. ასევე შეგიძლიათ აირჩიოთ მზა შაბლონები, მათ შორის PyTorch/CUDA, ComfyUI, vLLM და Ollama, რომ მაშინვე დაიწყოთ მუშაობა.
როგორ მუშაობს L40S-ის ანგარიშსწორება?
ONIE ყველა L40S ქირაობისთვის იყენებს საათობრივ ანგარიშსწორებას. იხდით მხოლოდ იმ დროისთვის, რომლის განმავლობაშიც თქვენი ინსტანცია გამოყოფილია.
იქირავეთ L40S საათობრივად
შექმენით ანგარიში, აირჩიეთ კონფიგურაცია და დაუკავშირდით SSH-ით. ბილინგი შეჩერდება, როცა GPU-ს წაშლით.
იქირავეთ L40S