השכירו GPU מסוג NVIDIA A40 לפי שעה
NVIDIA A40 הוא מאיץ GPU למרכזי נתונים המבוסס על ארכיטקטורת Ampere, עם compute capability 8.6 ו-45 GB של VRAM. ב-ONIE הוא מספק כ-29.9 TFLOPS של ביצועי דיוק יחיד (single-precision) וכ-536 GB/s של רוחב פס זיכרון, במסגרת צריכת חשמל של 300 W. ניתן לפרוס אותו עם חיוב לפי שעה, גישת SSH מלאה ותבניות מוכנות לשימוש הכוללות PyTorch/CUDA, vLLM, Ollama ו-ComfyUI.
מפרט טכני
VRAM לכל GPU
ארכיטקטורה
Compute capability
חישוב FP32
רוחב פס זיכרון
מגבלת הספק
הערכים מדווחים על ידי ספק התשתית עבור המכונות המוצעות כעת; הביצועים בפועל משתנים ממכונה למכונה.
תצורות זמינות
מלאי ומחירים בזמן אמת, מתעדכנים באופן מתמשך. המחיר הסופי מאושר לפני ביצוע ההזמנה.
טוען מחירים בזמן אמת…
למה A40 מתאים
הסקה במודלי LLM
הפעלת מודלים הדורשים עד 45 GB של זיכרון באמצעות תבניות vLLM או Ollama מוגדרות מראש.
כוונון עדין בלמידה עמוקה
כוונון עדין של רשתות נוירונים ב-PyTorch/CUDA, עם VRAM נרחב לגדלי אצווה (batch) ולמשקלים גדולים יותר.
תהליכי יצירת תמונות גנרטיביים
הרצת צינורות דיפוזיה מורכבים והחזקת מספר checkpoints בזיכרון בו-זמנית באמצעות ComfyUI.
משימות חישוב במרכזי נתונים
ניצול של כ-29.9 TFLOPS של חישוב בדיוק יחיד וכ-536 GB/s של רוחב פס זיכרון לעומסי סימולציה ורינדור.
האם זהו ה-GPU המתאים לך?
בחרו ב-A40 כאשר עומס העבודה שלכם דורש 45 GB של VRAM בארכיטקטורת Ampere של מרכז נתונים, מעבר לקיבולת הזיכרון של כרטיסי GPU צרכניים סטנדרטיים. בחרו כרטיס צרכני קטן יותר אם המודלים שלכם נכנסים לזיכרון קטן יותר, או עברו ל-GPU למרכז נתונים עם רוחב פס גבוה יותר אם אימוני המודלים מוגבלים בעיקר על ידי תפוקת הזיכרון.
השוואה לכרטיסי GPU דומים
שאלות נפוצות
האם NVIDIA A40 מתאים להסקה ולכוונון עדין של מודלי LLM?
כן, קיבולת ה-VRAM של 45 GB הופכת את ה-A40 למתאים היטב לאירוח מודלי שפה בינוניים עד גדולים ולביצוע כוונון עדין יעיל בפרמטרים. ניתן להפעיל תבניות vLLM, Ollama או PyTorch/CUDA ישירות ב-ONIE ולהתחיל לעבוד מיד.
כיצד ה-A40 משתווה לכרטיסי GPU צרכניים קטנים יותר או למאיצי מרכזי נתונים גדולים יותר?
ה-A40 מספק 45 GB של VRAM, ומעניק מרווח זיכרון גדול יותר מכרטיסי GPU צרכניים סטנדרטיים לעומסים התלויים בזיכרון. עם זאת, רוחב פס הזיכרון שלו, כ-536 GB/s, נמוך מזה של מאיצי מרכזי נתונים מתקדמים יותר המשתמשים בזיכרון HBM.
אילו סביבות תוכנה זמינות ל-A40 ב-ONIE?
ה-A40 תומך ב-CUDA compute capability 8.6, וניתן לפרוס אותו עם תבניות מוכנות ל-PyTorch/CUDA, vLLM, Ollama ו-ComfyUI. גישת SSH מלאה כלולה, כך שתוכלו להתאים את מחסנית התוכנה לפי הצורך.
כיצד פועל החיוב עבור מופעי A40?
ב-ONIE כל השכרות A40 מחויבות לפי שעה. משלמים רק על הזמן שבו המופע פעיל, מה שמתאים גם לניסויים קצרים וגם להרצות פרודקשן ארוכות יותר.
שכור את A40 לפי שעה
צור חשבון, בחר תצורה והתחבר דרך SSH. החיוב נפסק כאשר תמחק את ה-GPU.
שכור A40