Inference ya LLM
vLLM, SGLang au Ollama pamoja na Open WebUI kwa kuhudumia na kujaribu modeli za lugha.
Wingu la GPU kwa AI, LLM na utoaji wa picha (rendering)
Kodisha seva za GPU za NVIDIA kwa saa au kwa mzunguko wa malipo. Linganisha usanidi na bei za moja kwa moja, anza kutoka kiolezo kilichotayarishwa tayari, na uunganike kupitia SSH au terminal ya kivinjari.
- Orodha ya moja kwa moja ya GPU zenye bei za sasa
- Violezo vya PyTorch, huduma ya LLM na uzalishaji wa picha
- Ufikiaji wa SSH na terminal kwenye kivinjari
Ukiwa na ONIE GPU Cloud, unakodisha seva ya GPU kutoka kwenye orodha ya moja kwa moja: chagua modeli ya GPU, VRAM na diski, anza kutoka kiolezo kama PyTorch, vLLM, Ollama au ComfyUI, kisha uunganike kupitia SSH. Seva za saa hutozwa kutoka salio la akaunti yako, na seva ya saa iliyosimamishwa inatozwa kwa diski yake pekee.
GPU zinazopatikana na bei za sasa
Hesabu ya moja kwa moja: upatikanaji na bei hubadilika kulingana na soko. Kiweko huthibitisha bei ya mwisho kabla ya kuagiza.
Inapakia bei za sasa…
Violezo tayari kwa kazi yako
Fine-tuning
Unsloth Studio kwa fine-tuning ya modeli za lugha kwa kutumia data yako mwenyewe.
Uzalishaji wa picha na video
ComfyUI kwa Flux, SDXL na mtiririko wa kazi wa video.
Maendeleo ya PyTorch na CUDA
Picha za PyTorch na Ubuntu 24.04 zenye NVIDIA CUDA, zinazopatikana kupitia SSH.
Desktop au VM kamili
Desktop ya Ubuntu kwenye kivinjari, au mashine kamili ya virtual ya KVM unapohitaji.
Kila kiolezo kinaonyesha toleo la chini kabisa la CUDA, VRAM na diski. GPU zinazolingana tu ndizo zinazotolewa kwa kiolezo hicho.
Jinsi ya kukodisha GPU
- 01
Chagua kiolezo na ukubwa wa diski
- 02
Chagua GPU inayolingana kutoka kwenye orodha ya moja kwa moja
- 03
Thibitisha bei na uunde seva kutoka salio la akaunti yako
- 04
Unganisha kupitia SSH au terminal ya kivinjari
Jinsi malipo ya GPU yanavyofanya kazi
- Kwa saa: GPU inatozwa kwa saa wakati seva inafanya kazi. Seva ya saa iliyosimamishwa inatozwa kwa diski yake pekee.
- Mizunguko ya malipo: ya kila mwezi, ya robo mwaka, ya nusu mwaka au ya mwaka, pamoja na punguzo lolote linaloonyeshwa kabla ya kulipa.
- Hifadhi ya diski inatozwa kwa GB, pamoja na bei ya GPU.
- Bei ziko kwa USD; unaweza kuzionyesha kwa VND kwa kiwango cha sasa cha ubadilishaji.
Maswali yanayoulizwa mara kwa mara
Ninaweza kuendesha nini kwenye GPU niliyokodisha?
Kazi zinazotoshea kwenye kumbukumbu ya GPU: inference na fine-tuning ya LLM, uzalishaji wa picha na video, utoaji wa picha (rendering) na maendeleo ya CUDA. Violezo vya PyTorch, vLLM, SGLang, Ollama, Unsloth na ComfyUI husakinisha programu kwa ajili yako.
Ninawezaje kuunganika na seva ya GPU?
Kupitia SSH kwa kutumia ufunguo wako, au kwa terminal ya kivinjari kutoka kwenye koni. Violezo vya desktop na VM pia hutoa ufikiaji wa picha.
Je, bei ni ya kudumu?
Bei zinatokana na orodha ya moja kwa moja ya GPU na zinaweza kubadilika. Koni inaonyesha bei iliyothibitishwa kabla ya kuagiza, na seva yako inatozwa kwa bei hiyo iliyothibitishwa.
Ninalipa nini seva ikiwa imesimamishwa?
Kwa malipo ya kila saa, seva iliyosimamishwa hutozwa kwa diski yake pekee. Futa seva wakati huhitaji tena data yake.
Ni GPU zipi zinapatikana?
Jedwali lililo hapo juu linaorodhesha usanidi unaopatikana kwa sasa, ikiwemo NVIDIA RTX 5090 yenye VRAM ya GB 32 wakati ikiwa kwenye hisa. Upatikanaji hubadilika siku nzima.