ঘণ্টা হিসেবে NVIDIA CMP 170HX GPU ভাড়া নিন
NVIDIA CMP 170HX হলো একটি Ampere-architecture ডেটাসেন্টার GPU, যাতে রয়েছে 64 GB VRAM এবং 250 W TDP। এটি compute capability 8.0-এ প্রায় 1516 GB/s মেমোরি ব্যান্ডউইডথ এবং প্রায় 12.1 TFLOPS single-precision কম্পিউট প্রদান করে। ONIE-এ আপনি প্রতি ঘণ্টার বিলিং, সম্পূর্ণ SSH অ্যাক্সেস এবং PyTorch/CUDA, vLLM, Ollama ও ComfyUI-এর জন্য প্রস্তুত টেমপ্লেট সহ এই কার্ডটি ডেপ্লয় করতে পারবেন।
স্পেসিফিকেশন
প্রতি GPU-তে VRAM
আর্কিটেকচার
কম্পিউট ক্ষমতা
FP32 কম্পিউট
মেমরি ব্যান্ডউইথ
পাওয়ার সীমা
বর্তমানে তালিকাভুক্ত মেশিনগুলোর জন্য ইনফ্রাস্ট্রাকচার প্রোভাইডার কর্তৃক প্রদত্ত মান; প্রকৃত কর্মক্ষমতা প্রতিটি মেশিনে ভিন্ন হতে পারে।
উপলব্ধ কনফিগারেশন
লাইভ স্টক ও দাম নিয়মিত আপডেট হয়। অর্ডার করার আগে চূড়ান্ত দাম নিশ্চিত করা হয়।
লাইভ দাম লোড হচ্ছে…
CMP 170HX কী কাজে ভালো
মেমোরি-বাউন্ড LLM ইনফারেন্স
vLLM বা Ollama-এর মাধ্যমে 64 GB VRAM ক্ষমতা এবং প্রায় 1516 GB/s মেমোরি ব্যান্ডউইডথ কাজে লাগিয়ে বড় ভাষা মডেল সার্ভ করুন।
উচ্চ-মেমোরি ডিপ লার্নিং
PyTorch/CUDA ওয়ার্কলোড চালান, যেগুলোর জন্য প্রচুর মেমোরি ক্ষমতা এবং compute capability 8.0 প্রয়োজন, কোনো ডিভাইস জুড়ে মডেল ভাগ না করেই।
জটিল ইমেজ জেনারেশন ওয়ার্কফ্লো
ComfyUI-তে একই সঙ্গে একাধিক বড় diffusion checkpoint ও control net লোড করুন, 64 GB মেমোরি পুলের মধ্যে।
ডেটা প্রসেসিং ও সিমুলেশন
250 W পাওয়ার এনভেলপের মধ্যে উচ্চ মেমোরি থ্রুপুট থেকে উপকৃত মেমোরি-নিবিড় ডেটাসেন্টার কাজ চালান।
এটি কি আপনার জন্য সঠিক GPU?
আপনার ওয়ার্কলোড কাঁচা single-precision কম্পিউটের চেয়ে মেমোরি ক্ষমতা ও ব্যান্ডউইডথ দ্বারা সীমাবদ্ধ হলে CMP 170HX বেছে নিন। দ্রুততর ট্রেনিং ইটারেশনের জন্য উচ্চতর কম্পিউট থ্রুপুটসম্পন্ন GPU প্রয়োজন হলে, অথবা আপনার মডেলের 64 GB VRAM-এর প্রয়োজন না হলে ছোট কনজিউমার কার্ড বেছে নিন।
অনুরূপ GPU-এর সাথে তুলনা করুন
সচরাচর জিজ্ঞাসিত প্রশ্ন
CMP 170HX কি LLM ইনফারেন্সের জন্য উপযুক্ত?
হ্যাঁ, 64 GB VRAM এবং প্রায় 1516 GB/s মেমোরি ব্যান্ডউইডথ এটিকে vLLM ও Ollama-এর মতো টেমপ্লেট ব্যবহার করে বড় ভাষা মডেল লোড ও সার্ভ করার জন্য উপযুক্ত করে তোলে। তবে এটি প্রায় 12.1 TFLOPS single-precision কম্পিউট দেয় বলে, উচ্চতর কম্পিউট ঘনত্বসম্পন্ন ডেটাসেন্টার GPU-এর তুলনায় প্রম্পট প্রসেসিং ধীর হবে।
এই GPU স্ট্যান্ডার্ড ডেটাসেন্টার অ্যাক্সিলারেটরের সঙ্গে কীভাবে তুলনা করে?
CMP 170HX 250 W TDP-তে কাজ করে, এবং স্ট্যান্ডার্ড Ampere ডেটাসেন্টার কার্ডের অনুরূপ বড় 64 GB মেমোরি বাফার ও উচ্চ মেমোরি ব্যান্ডউইডথ প্রদান করে। এর প্রধান ট্রেড-অফ হলো প্রায় 12.1 TFLOPS-এর কম কম্পিউট থ্রুপুট, যা এটিকে ভারী কম্পিউট ওয়ার্কলোডের চেয়ে মেমোরি-বাউন্ড কাজের জন্য বেশি উপযুক্ত করে তোলে।
এই GPU-এর জন্য কোন সফটওয়্যার এনভায়রনমেন্ট পাওয়া যায়?
কার্ডটি CUDA compute capability 8.0 সমর্থন করে এবং ONIE-এ PyTorch/CUDA, vLLM, Ollama ও ComfyUI সহ পূর্ব-কনফিগার করা টেমপ্লেট ব্যবহার করে চালু করা যায়। কাস্টম লাইব্রেরি ইনস্টল ও এনভায়রনমেন্ট ব্যবস্থাপনার জন্য সরাসরি SSH অ্যাক্সেসও পাবেন।
CMP 170HX ভাড়া নিলে বিলিং কীভাবে কাজ করে?
ONIE-এ ইনস্ট্যান্সগুলো প্রতি ঘণ্টার বিলিং ব্যবহার করে, তাই GPU সক্রিয় থাকা সময়ের জন্যই আপনি মূল্য পরিশোধ করেন।
ঘণ্টা হিসেবে CMP 170HX ভাড়া নিন
একটি অ্যাকাউন্ট তৈরি করুন, কনফিগারেশন বেছে নিন এবং SSH-এর মাধ্যমে সংযুক্ত হোন। GPU মুছে ফেললে বিলিং বন্ধ হয়ে যায়।
CMP 170HX ভাড়া নিন