הסקה של LLMs
vLLM, SGLang או Ollama עם Open WebUI להגשה ולבדיקה של מודלי שפה.
שכרו שרתי GPU של NVIDIA לפי שעה או לפי מחזור חיוב. השוו תצורות ומחירים בזמן אמת, התחילו מתבנית מוכנה והתחברו באמצעות SSH או מסוף הדפדפן.
עם GPU Cloud של ONIE שוכרים שרת GPU מתוך המלאי הזמין בזמן אמת: בוחרים את דגם ה-GPU, ה-VRAM והדיסק, מתחילים מתבנית כמו PyTorch, vLLM, Ollama או ComfyUI, ואז מתחברים באמצעות SSH. שרתים שעתיים מחויבים מיתרת החשבון, ושרת שעתי שכבוי מחויב רק עבור הדיסק שלו.
מלאי בזמן אמת: הזמינות והמחירים משתנים בהתאם לשוק. הקונסולה מאשרת את המחיר הסופי לפני ההזמנה.
vLLM, SGLang או Ollama עם Open WebUI להגשה ולבדיקה של מודלי שפה.
Unsloth Studio לכוונון עדין של מודלי שפה על הנתונים שלכם.
ComfyUI לתהליכי עבודה של Flux, SDXL ווידאו.
תמונות PyTorch ו-Ubuntu 24.04 עם NVIDIA CUDA, נגישות באמצעות SSH.
שולחן עבודה של Ubuntu בדפדפן, או מכונה וירטואלית מלאה של KVM כשצריך.
לכל תבנית מפורטים גרסת CUDA מינימלית, VRAM ודיסק. מוצעים לה רק כרטיסי GPU תואמים.
עומסי עבודה שנכנסים לזיכרון ה-GPU: הסקה וכוונון עדין של LLMs, יצירת תמונות וווידאו, רינדור ופיתוח CUDA. תבניות של PyTorch, vLLM, SGLang, Ollama, Unsloth ו-ComfyUI מתקינות עבורכם את התוכנה.
באמצעות SSH עם המפתח שלכם, או עם המסוף בדפדפן מתוך הקונסולה. תבניות של שולחן עבודה ו-VM מספקות גם גישה גרפית.
המחירים מגיעים מהמלאי הזמין בזמן אמת ועשויים להשתנות. הקונסולה מציגה את המחיר המאושר לפני ההזמנה, והשרת שלכם מחויב לפי מחיר מאושר זה.
בחיוב לפי שעה, שרת שהופסק מחויב רק על הדיסק שלו. מחקו את השרת כאשר אינכם זקוקים עוד לנתונים שבו.
הטבלה שלמעלה מציגה את התצורות הזמינות כעת, כולל NVIDIA RTX 5090 עם 32 GB של VRAM כאשר הוא קיים במלאי. הזמינות משתנה במהלך היום.