Εκτέλεση συμπερασμάτων LLM
vLLM, SGLang ή Ollama με Open WebUI για εξυπηρέτηση και δοκιμή γλωσσικών μοντέλων.
Νοικιάστε διακομιστές NVIDIA GPU ανά ώρα ή ανά περίοδο χρέωσης. Συγκρίνετε ζωντανές διαμορφώσεις και τιμές, ξεκινήστε από έτοιμο πρότυπο και συνδεθείτε μέσω SSH ή του τερματικού του προγράμματος περιήγησης.
Με το ONIE GPU Cloud νοικιάζετε διακομιστή GPU από το ζωντανό απόθεμα: επιλέγετε το μοντέλο GPU, τη VRAM και τον δίσκο, ξεκινάτε από πρότυπο όπως PyTorch, vLLM, Ollama ή ComfyUI και στη συνέχεια συνδέεστε μέσω SSH. Οι ωριαίοι διακομιστές χρεώνονται από το υπόλοιπο του λογαριασμού σας, ενώ ένας σταματημένος ωριαίος διακομιστής χρεώνεται μόνο για τον δίσκο του.
Απόθεμα σε πραγματικό χρόνο: η διαθεσιμότητα και οι τιμές αλλάζουν με την αγορά. Η κονσόλα επιβεβαιώνει την τελική τιμή πριν από την παραγγελία.
vLLM, SGLang ή Ollama με Open WebUI για εξυπηρέτηση και δοκιμή γλωσσικών μοντέλων.
Unsloth Studio για fine-tuning γλωσσικών μοντέλων με τα δικά σας δεδομένα.
ComfyUI για ροές εργασίας με Flux, SDXL και βίντεο.
Εικόνες PyTorch και Ubuntu 24.04 με NVIDIA CUDA, προσβάσιμες μέσω SSH.
Περιβάλλον Ubuntu Desktop στο πρόγραμμα περιήγησης ή πλήρες εικονικό μηχάνημα KVM, όταν το χρειάζεστε.
Κάθε πρότυπο αναφέρει την ελάχιστη έκδοση CUDA, τη VRAM και τον δίσκο που απαιτεί· για αυτό προσφέρονται μόνο συμβατές GPU.
Φορτία εργασίας που χωρούν στη μνήμη της GPU: συμπεράσματα και fine-tuning LLM, δημιουργία εικόνων και βίντεο, rendering και ανάπτυξη CUDA. Τα πρότυπα για PyTorch, vLLM, SGLang, Ollama, Unsloth και ComfyUI εγκαθιστούν το λογισμικό για εσάς.
Μέσω SSH με το κλειδί σας ή με το τερματικό του προγράμματος περιήγησης από την κονσόλα. Τα πρότυπα Desktop και VM παρέχουν επίσης γραφική πρόσβαση.
Οι τιμές προέρχονται από το ζωντανό απόθεμα GPU και μπορεί να αλλάξουν. Η κονσόλα εμφανίζει την επιβεβαιωμένη τιμή πριν από την παραγγελία, και ο διακομιστής σας χρεώνεται σε αυτή την επιβεβαιωμένη τιμή.
Με χρέωση ανά ώρα, ένας σταματημένος server χρεώνεται μόνο για τον δίσκο του. Διαγράψτε τον server όταν δεν χρειάζεστε πλέον τα δεδομένα του.
Ο πίνακας παραπάνω εμφανίζει τις διαμορφώσεις που είναι διαθέσιμες αυτή τη στιγμή, συμπεριλαμβανομένης της NVIDIA RTX 5090 με 32 GB VRAM όταν υπάρχει απόθεμα. Η διαθεσιμότητα αλλάζει καθ' όλη τη διάρκεια της ημέρας.