LLM ინფერენსი
vLLM, SGLang ან Ollama Open WebUI-თან ერთად ენობრივი მოდელების გასაშვებად და შესამოწმებლად.
იქირავეთ NVIDIA GPU სერვერები საათობრივად ან ანგარიშსწორების ციკლით. შეადარეთ მიმდინარე კონფიგურაციები და ფასები, დაიწყეთ მზა შაბლონით და დაუკავშირდით SSH-ით ან ბრაუზერის ტერმინალით.
ONIE GPU Cloud-ით მიმდინარე მარაგიდან ქირაობთ GPU სერვერს: ირჩევთ GPU მოდელს, VRAM-სა და დისკს, იწყებთ შაბლონით, როგორიცაა PyTorch, vLLM, Ollama ან ComfyUI, შემდეგ უკავშირდებით SSH-ით. საათობრივი სერვერები ირიცხება თქვენი ანგარიშის ბალანსიდან, ხოლო გაჩერებული საათობრივი სერვერისთვის ირიცხება მხოლოდ დისკი.
ცოცხალი მარაგი: ხელმისაწვდომობა და ფასები ბაზარს მიჰყვება. საბოლოო ფასს კონსოლი შეკვეთამდე დაადასტურებს.
vLLM, SGLang ან Ollama Open WebUI-თან ერთად ენობრივი მოდელების გასაშვებად და შესამოწმებლად.
Unsloth Studio ენობრივი მოდელების დასახვეწად თქვენს მონაცემებზე.
ComfyUI Flux, SDXL და ვიდეო სამუშაო პროცესებისთვის.
PyTorch და Ubuntu 24.04 სურათები NVIDIA CUDA-თი, ხელმისაწვდომი SSH-ით.
Ubuntu დესკტოპი ბრაუზერში ან სრული KVM ვირტუალური მანქანა, როცა საჭიროა.
თითოეული შაბლონი მიუთითებს მინიმალურ CUDA ვერსიას, VRAM-სა და დისკს; მასთან მხოლოდ შესაბამისი GPU-ები შემოთავაზდება.
სამუშაოები, რომლებიც ეტევა GPU მეხსიერებაში: LLM ინფერენსი და დახვეწა, სურათებისა და ვიდეოს გენერაცია, რენდერინგი და CUDA განვითარება. PyTorch, vLLM, SGLang, Ollama, Unsloth და ComfyUI შაბლონები პროგრამულ უზრუნველყოფას თქვენთვის ავტომატურად აინსტალირებს.
SSH-ით თქვენი გასაღებით ან კონსოლიდან თქვენი ბრაუზერის ტერმინალით. დესკტოპისა და VM შაბლონები გრაფიკულ წვდომასაც უზრუნველყოფს.
ფასები მოდის მიმდინარე GPU მარაგიდან და შეიძლება შეიცვალოს. კონსოლი შეკვეთამდე აჩვენებს დადასტურებულ ფასს, და თქვენი სერვერი ირიცხება ამ დადასტურებული ფასით.
საათობრივი ტარიფით გაჩერებული სერვერისთვის მხოლოდ დისკის საფასური იწერება. როცა მისი მონაცემები აღარ გჭირდებათ, სერვერი წაშალეთ.
ზემოთ მოცემულ ცხრილში მითითებულია ამჟამად ხელმისაწვდომი კონფიგურაციები, მათ შორის NVIDIA RTX 5090 32 GB VRAM-ით, როცა მარაგშია. ხელმისაწვდომობა დღის განმავლობაში იცვლება.