ការសន្និដ្ឋាន LLM (inference)
vLLM, SGLang ឬ Ollama ជាមួយ Open WebUI ដើម្បីបម្រើ និងសាកល្បងម៉ូដែលភាសា។
ជួលម៉ាស៊ីនមេ NVIDIA GPU ជាម៉ោង ឬតាមវដ្តគិតថ្លៃ។ ប្រៀបធៀបការកំណត់រចនាសម្ព័ន្ធ និងតម្លៃបច្ចុប្បន្ន ចាប់ផ្តើមពីគំរូដែលត្រៀមរួច និងភ្ជាប់តាម SSH ឬ browser terminal។
ជាមួយ ONIE GPU Cloud អ្នកជួលម៉ាស៊ីនមេ GPU ពីបញ្ជីមានស្តុកបច្ចុប្បន្ន៖ ជ្រើសរើសម៉ូដែល GPU, VRAM និងឌីស ចាប់ផ្តើមពីគំរូដូចជា PyTorch, vLLM, Ollama ឬ ComfyUI បន្ទាប់មកភ្ជាប់តាម SSH។ ម៉ាស៊ីនមេប្រចាំម៉ោងត្រូវបានគិតថ្លៃពីសមតុល្យគណនីរបស់អ្នក ហើយម៉ាស៊ីនមេប្រចាំម៉ោងដែលបានបញ្ឈប់ ត្រូវគិតថ្លៃតែសម្រាប់ឌីសប៉ុណ្ណោះ។
ស្តុកផ្ទាល់៖ ភាពអាចរកបាន និងតម្លៃផ្លាស់ប្តូរតាមទីផ្សារ។ កុងសូលនឹងបញ្ជាក់តម្លៃចុងក្រោយមុនពេលអ្នកបញ្ជាទិញ។
vLLM, SGLang ឬ Ollama ជាមួយ Open WebUI ដើម្បីបម្រើ និងសាកល្បងម៉ូដែលភាសា។
Unsloth Studio សម្រាប់ fine-tuning ម៉ូដែលភាសាលើទិន្នន័យរបស់អ្នកផ្ទាល់។
ComfyUI សម្រាប់ Flux, SDXL និង workflow វីដេអូ។
រូបភាព PyTorch និង Ubuntu 24.04 ជាមួយ NVIDIA CUDA ដែលអាចចូលប្រើតាម SSH។
Ubuntu desktop នៅក្នុង browser ឬម៉ាស៊ីនមេនិម្មិត KVM ពេញលេញ នៅពេលអ្នកត្រូវការ។
គំរូនីមួយៗបង្ហាញ CUDA version អប្បបរមា VRAM និងឌីស; មានតែ GPU ដែលត្រូវគ្នាប៉ុណ្ណោះដែលត្រូវបានផ្តល់ជូនសម្រាប់គំរូនោះ។
ការងារដែលសមនឹងអង្គចងចាំ GPU៖ ការសន្និដ្ឋាន និង fine-tuning LLM, ការបង្កើតរូបភាព និងវីដេអូ, ការបង្ហាញ និងការអភិវឌ្ឍ CUDA។ គំរូសម្រាប់ PyTorch, vLLM, SGLang, Ollama, Unsloth និង ComfyUI ដំឡើងកម្មវិធីទាំងនោះឱ្យអ្នកដោយស្វ័យប្រវត្តិ។
តាម SSH ជាមួយ key របស់អ្នក ឬតាម terminal ក្នុង browser ពីកុងសូល។ គំរូ Desktop និង VM ក៏ផ្តល់ការចូលប្រើក្រាហ្វិកផងដែរ។
តម្លៃមកពីបញ្ជី GPU ដែលមានស្តុកបច្ចុប្បន្ន ហើយអាចផ្លាស់ប្តូរបាន។ កុងសូលបង្ហាញតម្លៃដែលបានបញ្ជាក់មុនពេលអ្នកបញ្ជាទិញ ហើយម៉ាស៊ីនមេរបស់អ្នកត្រូវបានគិតថ្លៃតាមតម្លៃដែលបានបញ្ជាក់នោះ។
ជាមួយការគិតប្រាក់តាមម៉ោង ម៉ាស៊ីនមេដែលបានបញ្ឈប់នឹងត្រូវគិតថ្លៃតែសម្រាប់ឌីសរបស់វាប៉ុណ្ណោះ។ លុបម៉ាស៊ីនមេនៅពេលអ្នកលែងត្រូវការទិន្នន័យរបស់វា។
តារាងខាងលើបង្ហាញការកំណត់រចនាសម្ព័ន្ធដែលមានទទួលបានបច្ចុប្បន្ន រួមទាំង NVIDIA RTX 5090 ដែលមាន VRAM 32 GB នៅពេលមានក្នុងស្តុក។ ភាពអាចប្រើបាននៃធនធានផ្លាស់ប្តូរពេញមួយថ្ងៃ។