ঘণ্টা হিসেবে NVIDIA L4 GPU ভাড়া নিন
NVIDIA L4 হলো একটি Ada Lovelace আর্কিটেকচারের ডেটাসেন্টার GPU, যাতে রয়েছে 22 GB VRAM এবং 72 W পাওয়ার এনভেলপ। এটি প্রায় 24.2 TFLOPS সিঙ্গল-প্রিসিশন ফ্লোটিং-পয়েন্ট পারফরম্যান্স এবং প্রায় 221 GB/s মেমোরি ব্যান্ডউইথ দেয়, সঙ্গে CUDA compute capability 8.9। ONIE-এ ঘণ্টাভিত্তিক বিলিং, সম্পূর্ণ SSH অ্যাক্সেস এবং PyTorch/CUDA, vLLM, Ollama ও ComfyUI-এর জন্য প্রস্তুত টেমপ্লেট সহ এটি ভাড়া নিন।
স্পেসিফিকেশন
প্রতি GPU-তে VRAM
আর্কিটেকচার
কম্পিউট ক্ষমতা
FP32 কম্পিউট
মেমরি ব্যান্ডউইথ
পাওয়ার সীমা
বর্তমানে তালিকাভুক্ত মেশিনগুলোর জন্য ইনফ্রাস্ট্রাকচার প্রোভাইডার কর্তৃক প্রদত্ত মান; প্রকৃত কর্মক্ষমতা প্রতিটি মেশিনে ভিন্ন হতে পারে।
উপলব্ধ কনফিগারেশন
লাইভ স্টক ও দাম নিয়মিত আপডেট হয়। অর্ডার করার আগে চূড়ান্ত দাম নিশ্চিত করা হয়।
লাইভ দাম লোড হচ্ছে…
L4 কী কাজে ভালো
ভাষা মডেল ইনফারেন্স
পূর্বনির্ধারিত vLLM বা Ollama টেমপ্লেট ব্যবহার করে 22 GB VRAM বাফারে কোয়ান্টাইজড বা ছোট থেকে মাঝারি আকারের ভাষা মডেল চালান।
ইমেজ জেনারেশন ওয়ার্কফ্লো
Ada Lovelace আর্কিটেকচারের বৈশিষ্ট্য ব্যবহার করে 22 GB মেমোরির মধ্যে সহজেই চলে এমন ComfyUI পাইপলাইন ডেপ্লয় করুন।
হালকা ফাইন-টিউনিং
উচ্চ-ওয়াটের ডেটাসেন্টার কার্ডের প্রয়োজন ছাড়াই PyTorch/CUDA পরিবেশে প্যারামিটার-দক্ষ ফাইন-টিউনিং এবং অ্যাডাপ্টার ট্রেনিং জব চালান।
ব্যাচ মিডিয়া ও ভিশন
72 W রেটেড একটি ডেটাসেন্টার GPU-তে কম্পিউটার ভিশন ইনফারেন্স ও ভিডিও ওয়ার্কলোড প্রসেস করুন।
এটি কি আপনার জন্য সঠিক GPU?
ইনফারেন্স বা মাঝারি ট্রেনিং ওয়ার্কলোডের জন্য যখন আপনার 22 GB VRAM ও Ada Lovelace compute capability 8.9 প্রয়োজন, তখন L4 বেছে নিন। আপনার মডেল 22 GB ছাড়িয়ে গেলে, অথবা প্রায় 221 GB/s-এর বেশি মেমোরি ব্যান্ডউইথ প্রয়োজন হলে বড় ডেটাসেন্টার GPU-তে যান, আর কম মেমোরি প্রয়োজন এমন সাধারণ ডেভেলপমেন্ট কাজের জন্য ছোট কার্ড বেছে নিন।
অনুরূপ GPU-এর সাথে তুলনা করুন
সচরাচর জিজ্ঞাসিত প্রশ্ন
NVIDIA L4 কি LLM ইনফারেন্সের জন্য উপযুক্ত?
হ্যাঁ, 22 GB VRAM-এর কারণে আপনি ছোট ও মাঝারি ভাষা মডেল বা কোয়ান্টাইজড ওয়েট হোস্ট করতে পারবেন। ONIE-এ vLLM বা Ollama টেমপ্লেট চালু করে সঙ্গে সঙ্গে মডেল সার্ভ করা শুরু করতে পারবেন।
বড় ডেটাসেন্টার GPU-এর তুলনায় L4 কেমন?
L4 দক্ষতার জন্য ডিজাইন করা, এতে রয়েছে 72 W বিদ্যুৎ খরচ, প্রায় 24.2 TFLOPS সিঙ্গল-প্রিসিশন কম্পিউট এবং প্রায় 221 GB/s মেমোরি ব্যান্ডউইথ। ভারী ট্রেনিংয়ের জন্য বড় ডেটাসেন্টার GPU বেশি VRAM ও উচ্চতর মেমোরি ব্যান্ডউইথ দেয়, আর L4 মূলত সাশ্রয়ী ইনফারেন্স ও হালকা ওয়ার্কলোডে মনোযোগ দেয়।
ONIE-এ L4-এর জন্য কোন সফটওয়্যার টেমপ্লেট পাওয়া যায়?
PyTorch/CUDA, vLLM, Ollama ও ComfyUI-এর জন্য প্রস্তুত টেমপ্লেট ব্যবহার করে আপনি L4 ডেপ্লয় করতে পারেন। সব ইনস্ট্যান্সে SSH অ্যাক্সেস থাকে, তাই আপনি নিজের সফটওয়্যার পরিবেশ ও CUDA compute capability 8.9 ওয়ার্কফ্লো কাস্টমাইজ করতে পারবেন।
L4 ইনস্ট্যান্সের বিলিং কীভাবে কাজ করে?
ONIE L4 ইনস্ট্যান্সের জন্য ঘণ্টাভিত্তিক বিল করে। ইনস্ট্যান্স সক্রিয় থাকা সময়ের জন্যই আপনাকে মূল্য দিতে হয়, ফলে ছোট পরীক্ষা ও চলমান ইনফারেন্স কাজ দুটোর জন্যই এটি সুবিধাজনক।
ঘণ্টা হিসেবে L4 ভাড়া নিন
একটি অ্যাকাউন্ট তৈরি করুন, কনফিগারেশন বেছে নিন এবং SSH-এর মাধ্যমে সংযুক্ত হোন। GPU মুছে ফেললে বিলিং বন্ধ হয়ে যায়।
L4 ভাড়া নিন