Νοικιάστε GPU NVIDIA A40 με ωριαία χρέωση
Η NVIDIA A40 είναι GPU για datacenter βασισμένη στην αρχιτεκτονική Ampere, με compute capability 8.6 και 45 GB VRAM. Στο ONIE προσφέρει περίπου 29.9 TFLOPS απόδοσης απλής ακρίβειας (single-precision) και περίπου 536 GB/s εύρος ζώνης μνήμης, σε ισχύ 300 W. Μπορείτε να την αναπτύξετε με χρέωση ανά ώρα, πλήρη πρόσβαση SSH και έτοιμα templates, όπως PyTorch/CUDA, vLLM, Ollama και ComfyUI.
Προδιαγραφές
VRAM ανά GPU
Αρχιτεκτονική
Compute capability
Υπολογισμοί FP32
Εύρος ζώνης μνήμης
Όριο ισχύος
Τιμές που αναφέρονται από τον πάροχο υποδομής για τα μηχανήματα που είναι αυτή τη στιγμή διαθέσιμα· η πραγματική απόδοση διαφέρει ανά μηχάνημα.
Διαθέσιμες διαμορφώσεις
Διαθεσιμότητα και τιμές σε πραγματικό χρόνο, με συνεχή ενημέρωση. Η τελική τιμή επιβεβαιώνεται πριν από την παραγγελία.
Φόρτωση τιμών σε πραγματικό χρόνο…
Για ποιες εργασίες είναι κατάλληλη η A40
Inference σε μεγάλα γλωσσικά μοντέλα (LLM)
Εκτελέστε μοντέλα που απαιτούν έως 45 GB μνήμης, χρησιμοποιώντας προ-ρυθμισμένα templates για vLLM ή Ollama.
Fine-tuning βαθιών νευρωνικών δικτύων
Κάντε fine-tuning σε νευρωνικά δίκτυα με PyTorch/CUDA, με άφθονη VRAM για μεγαλύτερα batch sizes και βάρη.
Ροές εργασίας δημιουργίας εικόνων
Εκτελέστε σύνθετες pipelines διάχυσης (diffusion) και κρατήστε πολλά checkpoints στη μνήμη ταυτόχρονα, με ComfyUI.
Υπολογιστικές εργασίες datacenter
Αξιοποιήστε περίπου 29.9 TFLOPS υπολογιστικής ισχύος απλής ακρίβειας και περίπου 536 GB/s εύρος ζώνης μνήμης για φόρτους προσομοίωσης και rendering.
Είναι η σωστή GPU για εσάς;
Επιλέξτε την A40 όταν ο φόρτος εργασίας σας απαιτεί 45 GB VRAM σε αρχιτεκτονική Ampere για datacenter, κάτι που ξεπερνά τις χωρητικότητες μνήμης των καρτών καταναλωτή. Επιλέξτε μικρότερη κάρτα καταναλωτή αν τα μοντέλα σας χωρούν σε λιγότερη μνήμη, ή μια GPU datacenter με μεγαλύτερο εύρος ζώνης αν οι εργασίες εκπαίδευσης περιορίζονται σημαντικά από τη ρυθμαπόδοση της μνήμης.
Σύγκριση με παρόμοιες GPU
| GPU | VRAM ανά GPU | Αρχιτεκτονική | Υπολογισμοί FP32 | Από / ώρα | Λεπτομέρειες |
|---|---|---|---|---|---|
| A40 | 45 GB | Ampere | ≈ 29.9 TFLOPS | — | |
| RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | — | Λεπτομέρειες |
| RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | — | Λεπτομέρειες |
| RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | — | Λεπτομέρειες |
Συχνές ερωτήσεις
Είναι η NVIDIA A40 κατάλληλη για inference και fine-tuning LLM;
Ναι, η χωρητικότητα 45 GB VRAM κάνει την A40 ιδανική για τη φιλοξενία μεσαίου έως μεγάλου μεγέθους γλωσσικών μοντέλων και για parameter-efficient fine-tuning. Μπορείτε να ξεκινήσετε αμέσως εκκινώντας τα templates vLLM, Ollama ή PyTorch/CUDA στο ONIE.
Πώς συγκρίνεται η A40 με μικρότερες GPU καταναλωτή ή μεγαλύτερες GPU datacenter;
Η A40 προσφέρει 45 GB VRAM, δίνοντας περισσότερο περιθώριο μνήμης από τις συνηθισμένες GPU καταναλωτή για φόρτους εργασίας που περιορίζονται από τη μνήμη. Ωστόσο, το εύρος ζώνης μνήμης της, περίπου 536 GB/s, είναι χαμηλότερο από αυτό των GPU datacenter υψηλότερης κατηγορίας που χρησιμοποιούν μνήμη HBM.
Ποια περιβάλλοντα λογισμικού είναι διαθέσιμα για την A40 στο ONIE;
Η A40 υποστηρίζει CUDA compute capability 8.6 και μπορεί να αναπτυχθεί με έτοιμα templates για PyTorch/CUDA, vLLM, Ollama και ComfyUI. Η πλήρης πρόσβαση SSH περιλαμβάνεται, ώστε να προσαρμόσετε τη στοίβα λογισμικού σας όπως χρειάζεστε.
Πώς λειτουργεί η χρέωση για τα instances A40;
Το ONIE χρησιμοποιεί χρέωση ανά ώρα για όλες τις μισθώσεις A40. Πληρώνετε μόνο για το χρονικό διάστημα που το instance σας είναι ενεργό, κάτι που το κάνει πρακτικό τόσο για σύντομα πειράματα όσο και για μακροχρόνιες εκτελέσεις παραγωγής.
Ενοικιάστε την A40 με ωριαία χρέωση
Δημιουργήστε λογαριασμό, επιλέξτε διαμόρφωση και συνδεθείτε μέσω SSH. Η χρέωση σταματά όταν διαγράψετε τη GPU.
Ενοικίαση A40