LLM çıkarımı
Dil modellerini sunmak ve test etmek için Open WebUI ile birlikte vLLM, SGLang veya Ollama.
NVIDIA GPU sunucularını saatlik veya faturalandırma dönemine göre kiralayın. Canlı yapılandırmaları ve fiyatları karşılaştırın, hazır bir şablondan başlayın ve SSH veya tarayıcı terminali üzerinden bağlanın.
ONIE GPU Cloud ile canlı envanterden bir GPU sunucusu kiralarsınız: GPU modelini, VRAM'i ve diski seçer, PyTorch, vLLM, Ollama veya ComfyUI gibi bir şablonla başlar, ardından SSH ile bağlanırsınız. Saatlik sunucuların ücreti hesap bakiyenizden alınır; durdurulmuş bir saatlik sunucu yalnızca diski için faturalandırılır.
Canlı envanter: stok durumu ve fiyatlar piyasaya göre değişir. Konsol, siparişinizden önce son fiyatı onaylar.
Dil modellerini sunmak ve test etmek için Open WebUI ile birlikte vLLM, SGLang veya Ollama.
Dil modellerini kendi verilerinizle ince ayarlamak için Unsloth Studio.
Flux, SDXL ve video iş akışları için ComfyUI.
NVIDIA CUDA içeren PyTorch ve Ubuntu 24.04 imajları, SSH üzerinden erişilebilir.
Tarayıcıda bir Ubuntu masaüstü veya ihtiyaç duyduğunuzda tam bir KVM sanal makinesi.
Her şablon minimum CUDA sürümünü, VRAM'i ve diski listeler; yalnızca ona uyumlu GPU'lar sunulur.
GPU belleğine sığan iş yükleri: LLM çıkarımı ve ince ayarı, görüntü ve video üretimi, render ve CUDA geliştirme. PyTorch, vLLM, SGLang, Ollama, Unsloth ve ComfyUI şablonları yazılımı sizin için kurar.
Anahtarınızla SSH üzerinden veya konsoldaki tarayıcı terminali ile. Masaüstü ve VM şablonları grafiksel erişim de sağlar.
Fiyatlar canlı GPU envanterinden gelir ve değişebilir. Konsol, sipariş vermeden önce onaylanmış fiyatı gösterir ve sunucunuz bu onaylanmış fiyat üzerinden faturalandırılır.
Saatlik faturalandırmada durdurulmuş bir sunucudan yalnızca disk ücreti alınır. Verilerine artık ihtiyaç duymadığınızda sunucuyu silin.
Yukarıdaki tabloda, stokta olduğunda 32 GB VRAM'li NVIDIA RTX 5090 dahil, şu anda kullanılabilir yapılandırmalar listelenmektedir. Kullanılabilirlik gün boyunca değişir.