प्रति घंटे के हिसाब से NVIDIA CMP 170HX GPU किराए पर लें
NVIDIA CMP 170HX एक Ampere-आर्किटेक्चर वाला डेटासेंटर GPU है जो 64 GB VRAM और 250 W TDP से लैस है। यह कंप्यूट क्षमता 8.0 पर लगभग 12.1 TFLOPS सिंगल-प्रिसिजन कंप्यूट के साथ-साथ लगभग 1516 GB/s की मेमोरी बैंडविड्थ प्रदान करता है। ONIE पर, आप इस कार्ड को प्रति-घंटे की बिलिंग, पूर्ण SSH एक्सेस और PyTorch/CUDA, vLLM, Ollama तथा ComfyUI के लिए तैयार टेम्पलेट्स के साथ डिप्लॉय कर सकते हैं।
स्पेसिफिकेशन्स
प्रति GPU VRAM
आर्किटेक्चर
कम्प्यूट क्षमता
FP32 कम्प्यूट
मेमोरी बैंडविड्थ
पावर लिमिट
ये मान वर्तमान में सूचीबद्ध मशीनों के लिए इन्फ्रास्ट्रक्चर प्रदाता द्वारा बताए गए हैं; वास्तविक प्रदर्शन मशीन के अनुसार भिन्न हो सकता है।
उपलब्ध कॉन्फ़िगरेशन
लाइव स्टॉक और कीमतें लगातार अपडेट की जाती हैं। ऑर्डर करने से पहले अंतिम कीमत की पुष्टि की जाती है।
लाइव कीमतें लोड हो रही हैं…
CMP 170HX किस काम के लिए सबसे उपयुक्त है
मेमोरी-आधारित LLM इन्फ़रेंस
64 GB VRAM क्षमता और लगभग 1516 GB/s की मेमोरी बैंडविड्थ का लाभ उठाकर vLLM या Ollama के माध्यम से बड़े लैंग्वेज मॉडल सर्व करें।
हाई-मेमोरी डीप लर्निंग
मॉडलों को अलग-अलग डिवाइसों में विभाजित किए बिना ऐसे PyTorch/CUDA वर्कलोड चलाएँ जिन्हें अधिक मेमोरी क्षमता और कंप्यूट क्षमता 8.0 की आवश्यकता होती है।
जटिल इमेज जनरेशन वर्कफ़्लो
64 GB मेमोरी पूल के भीतर ComfyUI में एक साथ कई बड़े डिफ्यूजन चेकपॉइंट्स और कंट्रोल नेट्स लोड करें।
डेटा प्रोसेसिंग और सिमुलेशन
250 W पावर सीमा के भीतर ऐसे मेमोरी-इंटेंसिव डेटासेंटर कार्य निष्पादित करें जिन्हें उच्च मेमोरी थ्रूपुट से लाभ मिलता है।
क्या यह आपके लिए सही GPU है?
CMP 170HX को तब चुनें जब आपका वर्कलोड रॉ सिंगल-प्रिसिजन कंप्यूट के बजाय मेमोरी क्षमता और बैंडविड्थ से सीमित हो रहा हो। यदि आपको तेज़ ट्रेनिंग इटरेशन की आवश्यकता है तो उच्च कंप्यूट थ्रूपुट वाले GPU का विकल्प चुनें, या यदि आपके मॉडलों को 64 GB VRAM की आवश्यकता नहीं है तो एक छोटा कंज्यूमर कार्ड चुनें।
समान GPUs से तुलना करें
अक्सर पूछे जाने वाले प्रश्न
क्या CMP 170HX LLM इन्फ़रेंस के लिए उपयुक्त है?
हाँ, इसका 64 GB VRAM और लगभग 1516 GB/s की मेमोरी बैंडविड्थ इसे vLLM और Ollama जैसे टेम्पलेट्स का उपयोग करके बड़े लैंग्वेज मॉडलों को लोड और सर्व करने के लिए बेहद उपयुक्त बनाती है। हालाँकि, चूँकि यह लगभग 12.1 TFLOPS सिंगल-प्रिसिजन कंप्यूट प्रदान करता है, इसलिए उच्च कंप्यूट घनत्व वाले डेटासेंटर GPUs की तुलना में प्रॉम्प्ट प्रोसेसिंग धीमी होगी।
मानक डेटासेंटर एक्सेलरेटर्स की तुलना में यह GPU कैसा है?
CMP 170HX मानक Ampere डेटासेंटर कार्डों के समान एक बड़ा 64 GB मेमोरी बफर और उच्च मेमोरी बैंडविड्थ प्रदान करता है, जबकि यह 250 W TDP पर काम करता है। इसका मुख्य अंतर लगभग 12.1 TFLOPS का कम कंप्यूट थ्रूपुट है, जो इसे भारी कंप्यूट वर्कलोड की तुलना में मेमोरी-आधारित कार्यों के लिए अधिक उपयुक्त बनाता है।
इस GPU के लिए कौन-से सॉफ़्टवेयर एनवायरनमेंट उपलब्ध हैं?
यह कार्ड CUDA कंप्यूट क्षमता 8.0 को सपोर्ट करता है और इसे ONIE पर PyTorch/CUDA, vLLM, Ollama और ComfyUI सहित प्री-कॉन्फ़िगर किए गए टेम्पलेट्स का उपयोग करके लॉन्च किया जा सकता है। कस्टम लाइब्रेरी इंस्टॉल करने और अपने एनवायरनमेंट को मैनेज करने के लिए आपको सीधा SSH एक्सेस भी मिलता है।
CMP 170HX को किराए पर लेने पर बिलिंग कैसे काम करती है?
ONIE पर इंस्टेंस प्रति-घंटे की बिलिंग का उपयोग करते हैं, इसलिए आप केवल उस अवधि के लिए भुगतान करते हैं जब तक आपका GPU सक्रिय रहता है।
प्रति घंटे के हिसाब से CMP 170HX किराए पर लें
खाता बनाएँ, कॉन्फ़िगरेशन चुनें और SSH के ज़रिए कनेक्ट करें। जब आप GPU को हटाते हैं तो बिलिंग रुक जाती है।
CMP 170HX किराए पर लें