LLM इन्फ़रेंस
लैंग्वेज मॉडलों को सर्व और टेस्ट करने के लिए Open WebUI के साथ vLLM, SGLang या Ollama।
प्रति घंटे या बिलिंग चक्र के हिसाब से NVIDIA GPU सर्वर किराए पर लें। लाइव कॉन्फ़िगरेशन और कीमतों की तुलना करें, रेडीमेड टेम्पलेट से शुरू करें और SSH या ब्राउज़र टर्मिनल के माध्यम से कनेक्ट करें।
ONIE GPU Cloud के साथ आप लाइव इन्वेंट्री से एक GPU सर्वर किराए पर लेते हैं: GPU मॉडल, VRAM और डिस्क चुनें, PyTorch, vLLM, Ollama या ComfyUI जैसे टेम्पलेट से शुरू करें, और फिर SSH के माध्यम से कनेक्ट करें। प्रति घंटे वाले सर्वरों के लिए आपके खाते की शेष राशि से राशि काटी जाती है, और रुके हुए प्रति घंटे वाले सर्वर के लिए केवल उसकी डिस्क का बिल लिया जाता है।
लाइव इन्वेंट्री: बाज़ार के अनुसार उपलब्धता और कीमतें बदलती रहती हैं। ऑर्डर करने से पहले कंसोल अंतिम कीमत की पुष्टि करता है।
लैंग्वेज मॉडलों को सर्व और टेस्ट करने के लिए Open WebUI के साथ vLLM, SGLang या Ollama।
अपने डेटा पर लैंग्वेज मॉडलों की फ़ाइन-ट्यूनिंग के लिए Unsloth Studio।
Flux, SDXL और वीडियो वर्कफ़्लो के लिए ComfyUI।
NVIDIA CUDA के साथ PyTorch और Ubuntu 24.04 इमेज, जो SSH के माध्यम से एक्सेस करने योग्य हैं।
ब्राउज़र में एक Ubuntu डेस्कटॉप, या आवश्यकता होने पर एक पूर्ण KVM वर्चुअल मशीन।
प्रत्येक टेम्पलेट में उसका न्यूनतम CUDA संस्करण, VRAM और डिस्क सूचीबद्ध होती है; इसके लिए केवल संगत GPUs ही उपलब्ध कराए जाते हैं।
वे वर्कलोड जो GPU मेमोरी में फिट होते हैं: LLM इन्फ़रेंस और फ़ाइन-ट्यूनिंग, इमेज और वीडियो जनरेशन, रेंडरिंग और CUDA डेवलपमेंट। PyTorch, vLLM, SGLang, Ollama, Unsloth और ComfyUI के लिए टेम्पलेट आपके लिए सॉफ़्टवेयर इंस्टॉल करते हैं।
अपनी कुंजी के साथ SSH के माध्यम से, या कंसोल से अपने ब्राउज़र में टर्मिनल के साथ। डेस्कटॉप और VM टेम्पलेट ग्राफ़िकल एक्सेस भी प्रदान करते हैं।
कीमतें लाइव GPU इन्वेंट्री से आती हैं और बदल सकती हैं। कंसोल आपके ऑर्डर करने से पहले पुष्टि की गई कीमत दिखाता है, और आपके सर्वर का बिल उसी पुष्टि की गई कीमत पर बनता है।
प्रति घंटे की बिलिंग के साथ, रुके हुए सर्वर के लिए केवल उसकी डिस्क का शुल्क लिया जाता है। जब आपको उसके डेटा की आवश्यकता न रहे, तो सर्वर को हटाएँ।
ऊपर दी गई तालिका में वर्तमान में उपलब्ध कॉन्फ़िगरेशन सूचीबद्ध हैं, जिसमें स्टॉक में होने पर 32 GB VRAM वाला NVIDIA RTX 5090 भी शामिल है। उपलब्धता दिन भर बदलती रहती है।