استنتاج LLM
vLLM، SGLang یا Ollama همراه با Open WebUI برای سرویسدهی و آزمایش مدلهای زبانی.
سرورهای GPU مبتنی بر NVIDIA را بهصورت ساعتی یا بر اساس دوره صورتحساب اجاره کنید. پیکربندیها و قیمتهای زنده را مقایسه کنید، از یک قالب آماده شروع کنید و از طریق SSH یا ترمینال مرورگر متصل شوید.
با ONIE GPU Cloud یک سرور GPU را از موجودی زنده اجاره میکنید: مدل GPU، VRAM و دیسک را انتخاب کنید، از قالبی مانند PyTorch، vLLM، Ollama یا ComfyUI شروع کنید و سپس از طریق SSH متصل شوید. سرورهای ساعتی از موجودی حساب شما کسر میشوند و سرور ساعتی متوقفشده فقط برای دیسک آن صورتحساب میشود.
موجودی لحظهای: موجودی و قیمتها با تغییرات بازار تغییر میکنند. کنسول قیمت نهایی را قبل از ثبت سفارش تأیید میکند.
vLLM، SGLang یا Ollama همراه با Open WebUI برای سرویسدهی و آزمایش مدلهای زبانی.
Unsloth Studio برای تنظیم دقیق مدلهای زبانی روی دادههای خودتان.
ComfyUI برای گردشکارهای Flux، SDXL و ویدیو.
تصاویر PyTorch و Ubuntu 24.04 همراه با NVIDIA CUDA که از طریق SSH در دسترس هستند.
دسکتاپ Ubuntu در مرورگر، یا یک ماشین مجازی کامل KVM در صورت نیاز.
هر قالب حداقل نسخه CUDA، VRAM و دیسک موردنیاز خود را فهرست میکند؛ فقط GPU های سازگار برای آن ارائه میشوند.
کارهایی که در حافظه GPU جا میشوند: استنتاج و تنظیم دقیق LLM، تولید تصویر و ویدیو، رندرینگ و توسعه CUDA. قالبهای PyTorch، vLLM، SGLang، Ollama، Unsloth و ComfyUI نرمافزار را برای شما نصب میکنند.
از طریق SSH با کلید خود، یا با ترمینال مرورگر از داخل کنسول. قالبهای دسکتاپ و ماشین مجازی دسترسی گرافیکی نیز فراهم میکنند.
قیمتها از موجودی زنده GPU میآیند و ممکن است تغییر کنند. کنسول قیمت تأییدشده را پیش از ثبت سفارش نشان میدهد و سرور شما با همان قیمت تأییدشده صورتحساب میشود.
با صورتحساب ساعتی، سرور متوقفشده فقط برای دیسک خود هزینه دریافت میکند. وقتی دیگر به دادههای آن نیازی ندارید، سرور را حذف کنید.
جدول بالا پیکربندیهایی را نشان میدهد که هماکنون در دسترساند، از جمله NVIDIA RTX 5090 با 32 GB VRAM در زمان موجودی. موجودی در طول روز تغییر میکند.