LLM ಇನ್‌ಫರೆನ್ಸ್
ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಸರ್ವ್ ಮಾಡಲು ಮತ್ತು ಪರೀಕ್ಷಿಸಲು Open WebUI ಜೊತೆಗೆ vLLM, SGLang ಅಥವಾ Ollama.
AI, LLM ಮತ್ತು ರೆಂಡರಿಂಗ್‌ಗಾಗಿ GPU Cloud
ಗಂಟೆವಾರು ಅಥವಾ ಬಿಲ್ಲಿಂಗ್ ಚಕ್ರದ ಆಧಾರದ ಮೇಲೆ NVIDIA GPU ಸರ್ವರ್‌ಗಳನ್ನು ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ. ಲೈವ್ ಸಂರಚನೆಗಳು ಮತ್ತು ಬೆಲೆಗಳನ್ನು ಹೋಲಿಸಿ, ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ನಿಂದ ಪ್ರಾರಂಭಿಸಿ ಮತ್ತು SSH ಅಥವಾ ಬ್ರೌಸರ್ ಟರ್ಮಿನಲ್ ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ.
- ಪ್ರಸ್ತುತ ಬೆಲೆಗಳೊಂದಿಗೆ ಲೈವ್ GPU ಇನ್ವೆಂಟರಿ
- PyTorch, LLM ಸರ್ವಿಂಗ್ ಮತ್ತು ಚಿತ್ರ ಉತ್ಪಾದನೆಗಾಗಿ ಟೆಂಪ್ಲೇಟ್‌ಗಳು
- ಬ್ರೌಸರ್‌ನಲ್ಲಿ SSH ಮತ್ತು ಟರ್ಮಿನಲ್ ಪ್ರವೇಶ
ONIE GPU Cloud ನೊಂದಿಗೆ ನೀವು ಲೈವ್ ಇನ್ವೆಂಟರಿಯಿಂದ GPU ಸರ್ವರ್ ಬಾಡಿಗೆಗೆ ಪಡೆಯುತ್ತೀರಿ: GPU ಮಾದರಿ, VRAM ಮತ್ತು ಡಿಸ್ಕ್ ಆಯ್ಕೆಮಾಡಿ, PyTorch, vLLM, Ollama ಅಥವಾ ComfyUI ನಂತಹ ಟೆಂಪ್ಲೇಟ್‌ನಿಂದ ಪ್ರಾರಂಭಿಸಿ, ನಂತರ SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. ಗಂಟೆವಾರು ಸರ್ವರ್‌ಗಳಿಗೆ ನಿಮ್ಮ ಖಾತೆ ಬ್ಯಾಲೆನ್ಸ್‌ನಿಂದ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ನಿಲ್ಲಿಸಲಾದ ಗಂಟೆವಾರು ಸರ್ವರ್‌ಗೆ ಕೇವಲ ಅದರ ಡಿಸ್ಕ್‌ಗೆ ಮಾತ್ರ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ.
ಲಭ್ಯವಿರುವ GPU ಗಳು ಮತ್ತು ಪ್ರಸ್ತುತ ಬೆಲೆಗಳು
ನೇರ ದಾಸ್ತಾನು: ಲಭ್ಯತೆ ಮತ್ತು ಬೆಲೆಗಳು ಮಾರುಕಟ್ಟೆಯೊಂದಿಗೆ ಬದಲಾಗುತ್ತವೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಕನ್ಸೋಲ್ ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸುತ್ತದೆ.
ಪ್ರಸ್ತುತ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…
ನಿಮ್ಮ ಕೆಲಸದ ಹೊರೆಗೆ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳು
ಫೈನ್-ಟ್ಯೂನಿಂಗ್
ನಿಮ್ಮ ಸ್ವಂತ ಡೇಟಾದ ಮೇಲೆ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲು Unsloth Studio.
ಚಿತ್ರ ಮತ್ತು ವೀಡಿಯೊ ಉತ್ಪಾದನೆ
Flux, SDXL ಮತ್ತು ವೀಡಿಯೊ ವರ್ಕ್‌ಫ್ಲೋಗಳಿಗಾಗಿ ComfyUI.
PyTorch ಮತ್ತು CUDA ಅಭಿವೃದ್ಧಿ
NVIDIA CUDA ಜೊತೆಗೆ PyTorch ಮತ್ತು Ubuntu 24.04 ಇಮೇಜ್‌ಗಳು, SSH ಮೂಲಕ ಪ್ರವೇಶಿಸಬಹುದು.
ಡೆಸ್ಕ್‌ಟಾಪ್ ಅಥವಾ ಪೂರ್ಣ VM
ಬ್ರೌಸರ್‌ನಲ್ಲಿ Ubuntu ಡೆಸ್ಕ್‌ಟಾಪ್, ಅಥವಾ ನಿಮಗೆ ಅಗತ್ಯವಿದ್ದಾಗ ಪೂರ್ಣ KVM ವರ್ಚುವಲ್ ಯಂತ್ರ.
ಪ್ರತಿ ಟೆಂಪ್ಲೇಟ್ ತನ್ನ ಕನಿಷ್ಠ CUDA ಆವೃತ್ತಿ, VRAM ಮತ್ತು ಡಿಸ್ಕ್ ಅನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ; ಅದಕ್ಕೆ ಹೊಂದಾಣಿಕೆಯಾಗುವ GPU ಗಳನ್ನು ಮಾತ್ರ ನೀಡಲಾಗುತ್ತದೆ.
GPU ಅನ್ನು ಬಾಡಿಗೆಗೆ ಪಡೆಯುವುದು ಹೇಗೆ
- 01
ಟೆಂಪ್ಲೇಟ್ ಮತ್ತು ಡಿಸ್ಕ್ ಗಾತ್ರವನ್ನು ಆಯ್ಕೆಮಾಡಿ
- 02
ಲೈವ್ ಇನ್ವೆಂಟರಿಯಿಂದ ಹೊಂದಾಣಿಕೆಯ GPU ಆಯ್ಕೆಮಾಡಿ
- 03
ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಖಾತೆ ಬ್ಯಾಲೆನ್ಸ್‌ನಿಂದ ಸರ್ವರ್ ರಚಿಸಿ
- 04
SSH ಅಥವಾ ಬ್ರೌಸರ್ ಟರ್ಮಿನಲ್ ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ
GPU ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ
- ಗಂಟೆವಾರು: ಸರ್ವರ್ ಚಾಲನೆಯಲ್ಲಿರುವ ಸಮಯಕ್ಕೆ GPU ಗೆ ಪ್ರತಿ ಗಂಟೆಗೆ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ. ನಿಲ್ಲಿಸಲಾದ ಗಂಟೆವಾರು ಸರ್ವರ್‌ಗೆ ಕೇವಲ ಅದರ ಡಿಸ್ಕ್‌ಗೆ ಮಾತ್ರ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ.
- ಬಿಲ್ಲಿಂಗ್ ಚಕ್ರಗಳು: ಮಾಸಿಕ, ತ್ರೈಮಾಸಿಕ, ಅರ್ಧ-ವಾರ್ಷಿಕ ಅಥವಾ ವಾರ್ಷಿಕ, ಪಾವತಿಸುವ ಮೊದಲು ತೋರಿಸಲಾಗುವ ಯಾವುದೇ ರಿಯಾಯಿತಿಯೊಂದಿಗೆ.
- ಡಿಸ್ಕ್ ಸಂಗ್ರಹಣೆಗೆ GPU ಬೆಲೆಯೊಂದಿಗೆ ಪ್ರತಿ GB ಗೆ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ.
- ಬೆಲೆಗಳು USD ನಲ್ಲಿವೆ; ಪ್ರಸ್ತುತ ವಿನಿಮಯ ದರದಲ್ಲಿ VND ಯಲ್ಲಿಯೂ ಪ್ರದರ್ಶಿಸಬಹುದು.
ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು
ಬಾಡಿಗೆಗೆ ಪಡೆದ GPU ನಲ್ಲಿ ನಾನು ಏನನ್ನು ಚಲಾಯಿಸಬಹುದು?
GPU ಮೆಮೊರಿಗೆ ಹೊಂದುವ ಕೆಲಸದ ಹೊರೆಗಳು: LLM ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್, ಚಿತ್ರ ಮತ್ತು ವೀಡಿಯೊ ಉತ್ಪಾದನೆ, ರೆಂಡರಿಂಗ್ ಮತ್ತು CUDA ಅಭಿವೃದ್ಧಿ. PyTorch, vLLM, SGLang, Ollama, Unsloth ಮತ್ತು ComfyUI ಟೆಂಪ್ಲೇಟ್‌ಗಳು ಸಾಫ್ಟ್‌ವೇರ್ ಅನ್ನು ನಿಮಗಾಗಿ ಸ್ಥಾಪಿಸುತ್ತವೆ.
GPU ಸರ್ವರ್‌ಗೆ ನಾನು ಹೇಗೆ ಸಂಪರ್ಕಿಸುವುದು?
ನಿಮ್ಮ ಕೀಯೊಂದಿಗೆ SSH ಮೂಲಕ, ಅಥವಾ ಕನ್ಸೋಲ್‌ನಿಂದ ನಿಮ್ಮ ಬ್ರೌಸರ್‌ನಲ್ಲಿರುವ ಟರ್ಮಿನಲ್ ಮೂಲಕ. ಡೆಸ್ಕ್‌ಟಾಪ್ ಮತ್ತು VM ಟೆಂಪ್ಲೇಟ್‌ಗಳು ಗ್ರಾಫಿಕಲ್ ಪ್ರವೇಶವನ್ನೂ ಒದಗಿಸುತ್ತವೆ.
ಬೆಲೆ ಸ್ಥಿರವಾಗಿದೆಯೇ?
ಬೆಲೆಗಳು ಲೈವ್ GPU ಇನ್ವೆಂಟರಿಯಿಂದ ಬರುತ್ತವೆ ಮತ್ತು ಬದಲಾಗಬಹುದು. ನೀವು ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಕನ್ಸೋಲ್ ದೃಢೀಕೃತ ಬೆಲೆಯನ್ನು ತೋರಿಸುತ್ತದೆ, ಮತ್ತು ನಿಮ್ಮ ಸರ್ವರ್‌ಗೆ ಆ ದೃಢೀಕೃತ ಬೆಲೆಯಲ್ಲಿಯೇ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ.
ಸರ್ವರ್ ನಿಲ್ಲಿಸಿದಾಗ ನಾನು ಏನು ಪಾವತಿಸುತ್ತೇನೆ?
ಗಂಟೆಯ ಬಿಲ್ಲಿಂಗ್‌ನಲ್ಲಿ, ನಿಲ್ಲಿಸಿದ ಸರ್ವರ್‌ಗೆ ಅದರ ಡಿಸ್ಕ್‌ಗೆ ಮಾತ್ರ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ. ಸರ್ವರ್‌ನ ಡೇಟಾ ಅಗತ್ಯವಿಲ್ಲದಾಗ ಅದನ್ನು ಅಳಿಸಿ.
ಯಾವ GPUಗಳು ಲಭ್ಯವಿವೆ?
ಮೇಲಿನ ಕೋಷ್ಟಕದಲ್ಲಿ ಪ್ರಸ್ತುತ ಲಭ್ಯವಿರುವ ಕಾನ್ಫಿಗರೇಶನ್‌ಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡಲಾಗಿದೆ, ಸ್ಟಾಕ್‌ನಲ್ಲಿದ್ದಾಗ 32 GB VRAM ಇರುವ NVIDIA RTX 5090 ಸೇರಿದಂತೆ. ಲಭ್ಯತೆ ದಿನದುದ್ದಕ್ಕೂ ಬದಲಾಗುತ್ತದೆ.