იქირავეთ NVIDIA Tesla P40 GPU საათობრივად
NVIDIA Tesla P40 — ეს არის Pascal არქიტექტურის მონაცემთა ცენტრის GPU, რომელსაც აქვს 24 GB VRAM და compute capability 6.1. ის უზრუნველყოფს დაახლოებით 9.4 TFLOPS single-precision გამოთვლით სიმძლავრეს და დაახლოებით 257 GB/s მეხსიერების გამტარუნარიანობას 250 W თერმულ ჩარჩოში. ONIE-ზე ამ GPU-ს შეგიძლიათ იჯარით აიყვანოთ საათობრივი ანგარიშსწორებით, SSH წვდომით და წინასწარ კონფიგურირებული შablონებით PyTorch/CUDA, vLLM, Ollama და ComfyUI-სთვის.
სპეციფიკაციები
VRAM თითო GPU-ზე
არქიტექტურა
გამოთვლითი შესაძლებლობა
FP32 გამოთვლები
მეხსიერების გამტარუნარიანობა
სიმძლავრის ლიმიტი
მნიშვნელობები მოწოდებულია ინფრასტრუქტურის პროვაიდერის მიერ ამჟამად ჩამონათვალში არსებული მანქანებისთვის; რეალური მუშაობა მანქანის მიხედვით განსხვავდება.
ხელმისაწვდომი კონფიგურაციები
რეალურ დროში განახლებადი მარაგი და ფასები. საბოლოო ფასი დადასტურდება შეკვეთამდე.
რეალური ფასები იტვირთება…
რისთვისაა კარგი Tesla P40
კვანტიზებული LLM ინფერენსი
გაუშვით ლოკალური ენობრივი მოდელები, რომლებსაც სჭირდებათ 24 GB-მდე მეხსიერება, Ollama ან vLLM-ის მზა შაბლონების გამოყენებით.
გამოსახულების გენერაციის სამუშაო პროცესები
მასპინძლობდეთ ComfyUI პაიფლაინებს, რომლებიც ისარგებლებენ VRAM-ის დიდი მოცულობით მრავალი checkpoint-ისა და control net-ის ჩასატვირთად.
Legacy CUDA-ს შემუშავება
ააგეთ, ატესტოთ და მოვლით მოემსახურეთ PyTorch/CUDA აპლიკაციებს, რომლებიც მიზნად ისახავს Pascal არქიტექტურასა და compute capability 6.1-ს.
მეხსიერებაზე დამოკიდებული batch დამუშავება
შეასრულეთ მონაცემთა ცენტრის სამუშაოები, რომლებშიც დიდი მონაცემთა ნაკრებების 24 GB VRAM-ში მოთავსება უფრო მნიშვნელოვანია, ვიდრე ნედლი გამოთვლითი სიჩქარე.
ეს თქვენთვის სწორი GPU არის?
აირჩიეთ Tesla P40, თუ თქვენი ძირითადი მოთხოვნაა 24 GB VRAM მეხსიერებაზე მომთხოვნი ინფერენსი ან შემუშავება, სადაც Pascal-ის ძველი გამოთვლითი სიმძლავრეც საკმარისია. აირჩიეთ უახლესი ან უფრო დიდი GPU, თუ გჭირდებათ უფრო მაღალი მეხსიერების გამტარუნარიანობა ან თანამედროვე tensor აჩქარება მძიმე ტრენინგისთვის, ან უფრო მცირე GPU, თუ თქვენი სამუშაო ცოტა მეხსიერებას იყენებს.
შეადარეთ მსგავს GPU-ებთან
ხშირად დასმული კითხვები
შესაფერისია თუ არა Tesla P40 დიდი ენობრივი მოდელების გასაშვებად?
24 GB VRAM-ი საშუალებას აძლევს Tesla P40-ს, მეხსიერებაში დაიტიოს საშუალო ზომის, კვანტიზებული ენობრივი მოდელები Ollama-ის მსგავსი შაბლონების გამოყენებით. თუმცა, რადგან მისი მეხსიერების გამტარუნარიანობა დაახლოებით 257 GB/s-ია და იყენებს ძველ Pascal არქიტექტურას, ტოკენების გენერაცია უფრო ნელი იქნება, ვიდრე უახლეს მონაცემთა ცენტრის GPU-ებზე.
რა პროგრამული თავსებადობა უნდა ველოდოთ compute capability 6.1-თან?
Compute capability 6.1 მხარს უჭერს სტანდარტულ single-precision სამუშაოებს დაახლოებით 9.4 TFLOPS სიჩქარით, რაც კარგად მუშაობს ზოგად PyTorch/CUDA შაბლონებთან. ზოგიერთი თანამედროვე მანქანური სწავლების ბიბლიოთეკა ან ფუნქცია, რომელიც ახალ აპარატურულ ინსტრუქციებს მოითხოვს, შესაძლოა Pascal არქიტექტურაზე არ იმუშაოს.
როგორ დავუკავშირდე და დავაყენო ჩემი Tesla P40 ინსტანცია ONIE-ზე?
ინსტანციის განთავსება შეგიძლიათ PyTorch/CUDA, vLLM, Ollama ან ComfyUI-სთვის მზა შაბლონების გამოყენებით. პირდაპირი SSH წვდომა შედის პაკეტში, რაც საშუალებას გაძლევთ მართოთ ფაილები და პერსონალური გარემო თქვენი ტერმინალიდან.
როგორ მუშაობს ანგარიშსწორება Tesla P40-ის იჯარისას?
ONIE-ის ინსტანციები იყენებენ საათობრივ ანგარიშსწორებას, რაც საშუალებას გაძლევთ გადაიხადოთ მხოლოდ იმ დროისთვის, როცა თქვენი მონაცემთა ცენტრის GPU ინსტანცია აქტიურია.
იქირავეთ Tesla P40 საათობრივად
შექმენით ანგარიში, აირჩიეთ კონფიგურაცია და დაუკავშირდით SSH-ით. ბილინგი შეჩერდება, როცა GPU-ს წაშლით.
იქირავეთ Tesla P40