ঘণ্টা হিসেবে NVIDIA H200 NVL GPU ভাড়া নিন
NVIDIA H200 NVL হলো একটি Hopper-আর্কিটেকচারের ডেটাসেন্টার GPU, যা মেমরি-নিবিড় ওয়ার্কলোডের জন্য তৈরি। এতে রয়েছে 140 GB VRAM এবং প্রায় 3884 GB/s মেমরি ব্যান্ডউইডথ। এটি 600 W পাওয়ার এনভেলপে চলে, compute capability 9.0 সমর্থন করে এবং প্রায় 48.3 TFLOPS স্ট্যান্ডার্ড ফ্লোটিং-পয়েন্ট কম্পিউট প্রদান করে। আপনি ONIE-এ প্রতি-ঘণ্টা বিলিং, সরাসরি SSH অ্যাক্সেস ও রেডি টেমপ্লেটসহ এই প্রসেসরটি ডেপ্লয় করতে পারবেন।
স্পেসিফিকেশন
প্রতি GPU-তে VRAM
আর্কিটেকচার
কম্পিউট ক্ষমতা
FP32 কম্পিউট
মেমরি ব্যান্ডউইথ
পাওয়ার সীমা
বর্তমানে তালিকাভুক্ত মেশিনগুলোর জন্য ইনফ্রাস্ট্রাকচার প্রোভাইডার কর্তৃক প্রদত্ত মান; প্রকৃত কর্মক্ষমতা প্রতিটি মেশিনে ভিন্ন হতে পারে।
উপলব্ধ কনফিগারেশন
লাইভ স্টক ও দাম নিয়মিত আপডেট হয়। অর্ডার করার আগে চূড়ান্ত দাম নিশ্চিত করা হয়।
লাইভ দাম লোড হচ্ছে…
H200 NVL কী কাজে ভালো
Large Language Model ইনফারেন্স
140 GB VRAM ক্ষমতা ও প্রায় 3884 GB/s মেমরি ব্যান্ডউইডথের সুবিধা নিয়ে শার্डिং ছাড়াই বড় মডেল মেমরিতে চালান।
মডেল ফাইন-টিউনিং ও ট্রেনিং
Hopper compute capability 9.0 এবং বিস্তৃত GPU মেমরি ব্যবহার করে বড় ব্যাচ সাইজের জন্য ডিপ লার্নিং মডেল ট্রেন ও অ্যাডাপ্ট করুন।
হাই-থ্রুপুট ব্যাচ প্রসেসিং
প্রি-কনফিগার্ড PyTorch/CUDA, vLLM বা Ollama টেমপ্লেট ব্যবহার করে বিশাল ডেটাসেট ও দীর্ঘ কনটেক্সট উইন্ডো কার্যকরভাবে প্রসেস করুন।
সায়েন্টিফিক কম্পিউটিং ও সিমুলেশন
প্রায় 48.3 TFLOPS স্ট্যান্ডার্ড ফ্লোটিং-পয়েন্ট পারফরম্যান্স ও উল্লেখযোগ্য অনবোর্ড মেমরির প্রয়োজন হয় এমন জটিল ডেটাসেন্টার সিমুলেশন চালান।
এটি কি আপনার জন্য সঠিক GPU?
যখন আপনার প্রধান বাধা হলো VRAM ক্ষমতা ও মেমরি ব্যান্ডউইডথ, বিশেষ করে একটি একক কার্ডে বড় মডেল হোস্ট করতে, তখন H200 NVL বেছে নিন। যদি আপনি হালকা ইনফারেন্স, সাধারণ ইমেজ জেনারেশন বা 140 GB মেমরির প্রয়োজন নেই এমন ডেভেলপমেন্ট টাস্ক চালান, তাহলে ছোট ওয়ার্কস্টেশন বা কনজিউমার GPU বেশি ব্যবহারিক পছন্দ।
অনুরূপ GPU-এর সাথে তুলনা করুন
সচরাচর জিজ্ঞাসিত প্রশ্ন
স্ট্যান্ডার্ড Hopper GPU-এর চেয়ে H200 NVL কেন বেছে নেবেন?
H200 NVL-এ রয়েছে 140 GB VRAM এবং প্রায় 3884 GB/s মেমরি ব্যান্ডউইডথ, যা আগের Hopper-প্রজন্মের কার্ডের মেমরি ক্ষমতা ও ব্যান্ডউইডথের চেয়ে বেশি। এর ফলে একটি একক GPU-তে বড় মডেল ও দীর্ঘ কনটেক্সট উইন্ডো ধারণ করানো সম্ভব হয়।
vLLM বা Ollama দিয়ে LLM সার্ভিংয়ের জন্য H200 NVL কি উপযুক্ত?
হ্যাঁ, 140 GB মেমরি পুল ও উচ্চ মেমরি ব্যান্ডউইডথ একে বড় ভাষা মডেল সার্ভ করার জন্য উপযুক্ত করে তোলে। দ্রুত শুরু করতে ONIE vLLM ও Ollama উভয়ের জন্য রেডি টেমপ্লেট সরবরাহ করে।
কোন সফটওয়্যার এনভায়রনমেন্ট ও অ্যাক্সেস পদ্ধতি পাওয়া যায়?
প্রতিটি ইনস্ট্যান্সে কাস্টম কনফিগারেশনের জন্য পূর্ণ SSH অ্যাক্সেস অন্তর্ভুক্ত। আপনি PyTorch/CUDA, vLLM, Ollama ও ComfyUI সহ প্রি-ইনস্টলড টেমপ্লেট দিয়েও ইনস্ট্যান্স চালু করতে পারেন।
ONIE-এ H200 NVL-এর বিলিং কীভাবে কাজ করে?
ইনস্ট্যান্স প্রতি ঘণ্টার ভিত্তিতে বিল হয়। আপনার H200 NVL ইনস্ট্যান্স সক্রিয় থাকা সময়ের জন্যই শুধু মূল্য দিতে হবে।
ঘণ্টা হিসেবে H200 NVL ভাড়া নিন
একটি অ্যাকাউন্ট তৈরি করুন, কনফিগারেশন বেছে নিন এবং SSH-এর মাধ্যমে সংযুক্ত হোন। GPU মুছে ফেললে বিলিং বন্ধ হয়ে যায়।
H200 NVL ভাড়া নিন