ঘণ্টা হিসেবে NVIDIA H100 SXM GPU ভাড়া নিন
NVIDIA H100 SXM হলো একটি Hopper আর্কিটেকচারের ডেটাসেন্টার GPU, যাতে রয়েছে 80 GB VRAM এবং 700 W পাওয়ার এনভেলপ। এটি প্রায় 53.5 TFLOPS স্ট্যান্ডার্ড ফ্লোটিং-পয়েন্ট কম্পিউট দেয় এবং প্রায় 2869 GB/s মেমরি ব্যান্ডউইথ সমর্থন করে, CUDA compute capability 9.0 সমর্থিত। ONIE-এ প্রতি ঘণ্টা বিলিং, পূর্ণ SSH অ্যাক্সেস এবং PyTorch/CUDA, vLLM, Ollama ও ComfyUI-এর জন্য প্রস্তুত টেমপ্লেটসহ এটি ভাড়া নিন।
স্পেসিফিকেশন
প্রতি GPU-তে VRAM
আর্কিটেকচার
কম্পিউট ক্ষমতা
FP32 কম্পিউট
মেমরি ব্যান্ডউইথ
পাওয়ার সীমা
বর্তমানে তালিকাভুক্ত মেশিনগুলোর জন্য ইনফ্রাস্ট্রাকচার প্রোভাইডার কর্তৃক প্রদত্ত মান; প্রকৃত কর্মক্ষমতা প্রতিটি মেশিনে ভিন্ন হতে পারে।
উপলব্ধ কনফিগারেশন
লাইভ স্টক ও দাম নিয়মিত আপডেট হয়। অর্ডার করার আগে চূড়ান্ত দাম নিশ্চিত করা হয়।
লাইভ দাম লোড হচ্ছে…
H100 SXM কী কাজে ভালো
বড় ভাষা মডেল (LLM) ইনফারেন্স
80 GB VRAM ধারণক্ষমতা এবং প্রায় 2869 GB/s মেমরি ব্যান্ডউইথ ব্যবহার করে vLLM বা Ollama টেমপ্লেটের মাধ্যমে চাহিদাসম্পন্ন ভাষা মডেল প্রোডাকশনে ডিপ্লয় করুন।
ডিপ লার্নিং ফাইন-টিউনিং
Hopper আর্কিটেকচার এবং CUDA compute capability 9.0 ব্যবহার করে পূর্ব-কনফিগার করা PyTorch/CUDA পরিবেশে নিউরাল নেটওয়ার্ক প্রশিক্ষণ ও ফাইন-টিউন করুন।
উচ্চ-থ্রুপুট ব্যাচ প্রসেসিং
700 W ডেটাসেন্টার ফর্ম ফ্যাক্টরে প্রায় 53.5 TFLOPS কম্পিউট কর্মক্ষমতা থেকে উপকৃত হয় এমন নিবিড় ডেটা প্রসেসিং ও সিমুলেশন ওয়ার্কলোড চালান।
ভারী জেনারেটিভ মিডিয়া ওয়ার্কফ্লো
80 GB মেমরি পুলের মধ্যে আরামে ধরে এমন বড় ব্যাচ সাইজে জটিল ComfyUI পাইপলাইন ও ডিফিউশন মডেল চালান।
এটি কি আপনার জন্য সঠিক GPU?
যখন আপনার ট্রেনিং বা ইনফারেন্স ওয়ার্কলোডে 80 GB উচ্চ-ব্যান্ডউইথ ডেটাসেন্টার মেমরি ও Hopper আর্কিটেকচারের বৈশিষ্ট্য দরকার, তখন H100 SXM বেছে নিন। হালকা ডেভেলপমেন্ট বা ছোট মডেলের জন্য একটি ছোট ওয়ার্কস্টেশন বা কনজিউমার GPU বেশি ব্যবহারিক, আর একটি ইনস্ট্যান্সে পুরো মডেল 80 GB VRAM-এ না ধরলে একটি নতুন বা উচ্চ-ধারণক্ষমতার ডেটাসেন্টার GPU বেশি উপযোগী।
অনুরূপ GPU-এর সাথে তুলনা করুন
সচরাচর জিজ্ঞাসিত প্রশ্ন
H100 SXM কি LLM ফাইন-টিউনিং ও ইনফারেন্সের জন্য উপযোগী?
হ্যাঁ, 80 GB VRAM এবং প্রায় 2869 GB/s মেমরি ব্যান্ডউইথ এটিকে বড় ভাষা মডেল সার্ভ ও ফাইন-টিউন করা উভয়ের জন্যই উপযোগী করে তোলে। ONIE-এ vLLM, Ollama বা PyTorch/CUDA-এর জন্য প্রস্তুত টেমপ্লেট ব্যবহার করে সঙ্গে সঙ্গেই শুরু করতে পারেন।
SXM ভেরিয়েন্ট কম-পাওয়ারের ডেটাসেন্টার বা ওয়ার্কস্টেশন GPU-র তুলনায় কেমন?
H100 SXM 700 W thermal design power-এ চলে, যা PCIe ডেটাসেন্টার ভেরিয়েন্ট বা ওয়ার্কস্টেশন কার্ডের তুলনায় বেশি কম্পিউট কর্মক্ষমতা ও মেমরি ব্যান্ডউইথ টেকসইভাবে দিতে সক্ষম। আপনার ওয়ার্কলোড যদি প্রায় 53.5 TFLOPS কম্পিউট বা 80 GB মেমরি পূর্ণভাবে ব্যবহার না করে, তবে ছোট GPU যথেষ্ট হতে পারে।
CUDA compute capability 9.0 কোন সফটওয়্যার সামঞ্জস্য দেয়?
Compute capability 9.0 NVIDIA Hopper আর্কিটেকচারের নির্দেশনা ও বৈশিষ্ট্যের জন্য হার্ডওয়্যার সমর্থন নির্দেশ করে। আমাদের প্রস্তুত PyTorch/CUDA টেমপ্লেট ম্যানুয়াল ড্রাইভার সেটআপ ছাড়াই এই হার্ডওয়্যার ব্যবহারের জন্য প্রস্তুত থাকে।
ONIE-এ বিলিং ও ইনস্ট্যান্স অ্যাক্সেস কীভাবে কাজ করে?
ভাড়ার সময়কাল অনুযায়ী প্রতি ঘণ্টা হিসাবে বিলিং করা হয়। ডিপ্লয় করার পর SSH অ্যাক্সেসের মাধ্যমে সরাসরি আপনার পরিবেশে সংযোগ করতে পারেন, অথবা ComfyUI-এর মতো প্রি-ইনস্টল করা টুলের সঙ্গে কাজ করতে পারেন।
ঘণ্টা হিসেবে H100 SXM ভাড়া নিন
একটি অ্যাকাউন্ট তৈরি করুন, কনফিগারেশন বেছে নিন এবং SSH-এর মাধ্যমে সংযুক্ত হোন। GPU মুছে ফেললে বিলিং বন্ধ হয়ে যায়।
H100 SXM ভাড়া নিন