ການ inference LLM
vLLM, SGLang ຫຼື Ollama ພ້ອມ Open WebUI ສຳລັບໃຫ້ບໍລິການ ແລະ ທົດສອບໂມເດວພາສາ.
ເຊົ່າເຊີບເວີ GPU ຂອງ NVIDIA ແບບລາຍຊົ່ວໂມງ ຫຼື ຕາມຮອບການເກັບເງິນ. ປຽບທຽບການຕັ້ງຄ່າ ແລະ ລາຄາແບບສົດ, ເລີ່ມຈາກເທມເພລດສຳເລັດຮູບ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ຫຼື ເທີມິນັນໃນບຣາວເຊີ.
ດ້ວຍ ONIE GPU Cloud ທ່ານເຊົ່າເຊີບເວີ GPU ຈາກສິນຄ້າຄົງເຫຼືອແບບສົດ: ເລືອກຮຸ່ນ GPU, VRAM ແລະ ດິດສະກ໌, ເລີ່ມຈາກເທມເພລດເຊັ່ນ PyTorch, vLLM, Ollama ຫຼື ComfyUI ຈາກນັ້ນເຊື່ອມຕໍ່ຜ່ານ SSH. ເຊີບເວີລາຍຊົ່ວໂມງຖືກຫັກຈາກຍອດເງິນໃນບັນຊີຂອງທ່ານ ແລະ ເຊີບເວີລາຍຊົ່ວໂມງທີ່ຢຸດແລ້ວຈະຖືກເກັບເງິນສະເພາະດິດສະກ໌ເທົ່ານັ້ນ.
ສະຕັອກສົດ: ຄວາມພ້ອມໃຫ້ບໍລິການ ແລະ ລາຄາປ່ຽນແປງຕາມຕະຫຼາດ. ຄອນໂຊລຈະຢືນຢັນລາຄາສຸດທ້າຍກ່ອນທ່ານສັ່ງຊື້.
vLLM, SGLang ຫຼື Ollama ພ້ອມ Open WebUI ສຳລັບໃຫ້ບໍລິການ ແລະ ທົດສອບໂມເດວພາສາ.
Unsloth Studio ສຳລັບ fine-tuning ໂມເດວພາສາດ້ວຍຂໍ້ມູນຂອງທ່ານເອງ.
ComfyUI ສຳລັບ Flux, SDXL ແລະ workflow ວິດີໂອ.
ອິມເມຈ PyTorch ແລະ Ubuntu 24.04 ພ້ອມ NVIDIA CUDA ທີ່ເຂົ້າເຖິງໄດ້ຜ່ານ SSH.
ເດສທັອບ Ubuntu ໃນບຣາວເຊີ ຫຼື ເຄື່ອງ virtual machine KVM ເຕັມຮູບແບບເມື່ອທ່ານຕ້ອງການ.
ແຕ່ລະເທມເພລດລະບຸເວີຊັນ CUDA ຂັ້ນຕ່ຳ, VRAM ແລະ ດິດສະກ໌ ເສນອສະເພາະ GPU ທີ່ເຂົ້າກັນໄດ້ສຳລັບເທມເພລດນັ້ນເທົ່ານັ້ນ.
ວຽກງານທີ່ພໍດີກັບໜ່ວຍຄວາມຈຳ GPU: ການ inference ແລະ fine-tuning LLM, ການສ້າງຮູບພາບ ແລະ ວິດີໂອ, rendering ແລະ ການພັດທະນາ CUDA. ເທມເພລດສຳລັບ PyTorch, vLLM, SGLang, Ollama, Unsloth ແລະ ComfyUI ຈະຕິດຕັ້ງຊອບແວໃຫ້ທ່ານ.
ຜ່ານ SSH ດ້ວຍກະແຈຂອງທ່ານ ຫຼື ດ້ວຍເທີມິນັນໃນບຣາວເຊີຈາກຄອນໂຊລ. ເທມເພລດເດສທັອບ ແລະ VM ຍັງໃຫ້ການເຂົ້າເຖິງແບບກຣາຟິກນຳ.
ລາຄາມາຈາກສິນຄ້າ GPU ຄົງເຫຼືອແບບສົດ ແລະ ອາດປ່ຽນແປງໄດ້. ຄອນໂຊລຈະສະແດງລາຄາທີ່ຢືນຢັນແລ້ວກ່ອນທ່ານສັ່ງຊື້, ແລະ ເຊີບເວີຂອງທ່ານຈະຖືກເກັບເງິນໃນລາຄາທີ່ຢືນຢັນນັ້ນ.
ເມື່ອໃຊ້ການເກັບເງິນແບບລາຍຊົ່ວໂມງ ເຊີບເວີທີ່ຢຸດແລ້ວຈະຖືກເກັບເງິນສະເພາະດິສກ໌ເທົ່ານັ້ນ. ລຶບເຊີບເວີເມື່ອທ່ານບໍ່ຕ້ອງການຂໍ້ມູນຂອງມັນອີກຕໍ່ໄປ.
ຕາຕະລາງຂ້າງເທິງລະບຸການຕັ້ງຄ່າທີ່ມີໃຫ້ໃນປັດຈຸບັນ ລວມທັງ NVIDIA RTX 5090 ທີ່ມີ VRAM 32 GB ເມື່ອມີສະຕັອກ. ຄວາມພ້ອມໃຫ້ບໍລິການປ່ຽນແປງຕະຫຼອດມື້.