GPU Cloud · NVIDIA · Ampere

השכירו GPU מסוג NVIDIA A100 SXM4 לפי שעה

ה-NVIDIA A100 SXM4 הוא כרטיס GPU לחישוב במרכזי נתונים מארכיטקטורת Ampere, עם 40 GB של VRAM והספק של 400 W. הוא מספק כ-1313 GB/s של רוחב פס זיכרון וכ-15.6 TFLOPS של חישוב בדיוק יחיד, עם compute capability 8.0. שכרו אותו ב-ONIE עם חיוב לפי שעה, גישת SSH ישירה ותבניות מוכנות כגון PyTorch/CUDA, vLLM, Ollama ו-ComfyUI.

מפרט טכני

VRAM לכל GPU

40 GB

ארכיטקטורה

NVIDIA Ampere

Compute capability

8.0

חישוב FP32

≈ 15.6 TFLOPS

רוחב פס זיכרון

≈ 1,313 GB/s

מגבלת הספק

400 W

הערכים מדווחים על ידי ספק התשתית עבור המכונות המוצעות כעת; הביצועים בפועל משתנים ממכונה למכונה.

תצורות זמינות

מלאי ומחירים בזמן אמת, מתעדכנים באופן מתמשך. המחיר הסופי מאושר לפני ביצוע ההזמנה.

טוען מחירים בזמן אמת…

למה A100 SXM4 מתאים

הסקה והגשה של LLM

הרצה של מודלי שפה שנכנסים לתוך 40 GB של VRAM באמצעות תבניות vLLM או Ollama מוגדרות מראש, עם תפוקת זיכרון גבוהה.

אימון למידה עמוקה

אימון וכוונון עדין של רשתות נוירונים ב-PyTorch/CUDA על ארכיטקטורת Ampere של מרכזי נתונים, עם רוחב פס זיכרון של כ-1313 GB/s.

יצירת תמונות בקבוצות

יצירת פלטים של דיפוזיה ברזולוציה גבוהה והרצת תהליכי עבודה מורכבים ב-ComfyUI, בלי להיתקל במגבלות הזיכרון של כרטיסים לצרכן.

מחשוב מדעי

הרצת סימולציות ועומסי עיבוד נתונים עתירי זיכרון, שנהנים מ-compute capability 8.0 ומגבולות ההספק של מבנה SXM4.

האם זהו ה-GPU המתאים לך?

בחרו ב-A100 SXM4 בעל 40 GB כאשר עומסי האימון או ההסקה שלכם חורגים ממגבלות הזיכרון של כרטיסים לצרכן ודורשים רוחב פס זיכרון של מרכז נתונים. בחרו כרטיס עם יותר VRAM ממרכז נתונים אם המודלים הלא-מכומתים שלכם חורגים מ-40 GB, או כרטיס קטן יותר לעבודה תחנתית או לצרכן לצורך הסקה קלה ופיתוח.

השוואה לכרטיסי GPU דומים

GPUVRAM לכל GPUארכיטקטורהחישוב FP32החל מ- / לשעהפרטים
A100 SXM440 GBAmpere≈ 15.6 TFLOPS—
A100 PCIE40 GBAmpere≈ 15.6 TFLOPS—פרטים
Q RTX 800045 GBTuring≈ 11.9 TFLOPS—פרטים
A800 PCIE80 GBAmpere≈ 15.6 TFLOPS—פרטים

שאלות נפוצות

האם ה-A100 SXM4 בעל 40 GB מתאים להסקה ולכוונון עדין של LLM?

כן. 40 GB של VRAM ורוחב פס זיכרון של כ-1313 GB/s הופכים אותו למתאים להגשה ולכוונון עדין יעיל מבחינת פרמטרים של מודלי שפה בינוניים. ניתן לפרוס מודלים במהירות באמצעות התבניות vLLM, Ollama או PyTorch/CUDA שמסופקות.

איך דגם SXM4 בעל 40 GB משתווה לכרטיסי GPU אחרים של מרכזי נתונים?

גרסת ה-SXM4 פועלת עם הספק תכנוני תרמי (TDP) של 400 W, ומספקת ביצועים מתמשכים של מרכז נתונים בארכיטקטורת Ampere עם compute capability 8.0. אם עומס העבודה שלכם דורש יותר מ-40 GB של זיכרון כדי להימנע מפיצול המודל (model sharding), כדאי לשקול מעבר לכרטיס Ampere או לכרטיס מרכז נתונים מדור חדש יותר בעל קיבולת גבוהה יותר.

איך פועל החיוב עבור A100 SXM4 ב-ONIE?

מופעים מחויבים לפי שעה כל עוד השכירות פעילה. כך ניתן להריץ אימונים אינטנסיביים או משימות הסקה בקבוצות, ולסיים את המופע כשהעבודה מסתיימת.

איך מתחברים ומגדירים את מופע ה-A100 SXM4 שלי?

תקבלו גישת SSH ישירה למכונה, וכן תבניות מוכנות לשימוש עבור PyTorch/CUDA, vLLM, Ollama ו-ComfyUI. פשוט בחרו את התבנית המועדפת עליכם בעת ההפעלה כדי להתחיל לעבוד מיד.

שכור את A100 SXM4 לפי שעה

צור חשבון, בחר תצורה והתחבר דרך SSH. החיוב נפסק כאשר תמחק את ה-GPU.

שכור A100 SXM4

כל ה-GPU →