LLM-Inferenz
Stellen Sie Modelle bereit, die in 32 GB passen – oft quantisiert – mit vLLM, SGLang oder Ollama.
RTX 5090-Server mit 32 GB GDDR7-Speicher auf Basis der Blackwell-Architektur für LLM-Inferenz, Bildgenerierung und CUDA-Entwicklung. Prüfen Sie aktuelle Konfigurationen und Preise und erstellen Sie Ihren Server anschließend über die Konsole.
ONIE vermietet NVIDIA RTX 5090 GPU-Server mit 32 GB GDDR7-VRAM aus einem Live-Bestand. Wählen Sie eine Vorlage für CUDA 12.8 oder neuer wie PyTorch, vLLM oder ComfyUI, legen Sie die Speichergröße fest und zahlen Sie stundenweise oder pro Abrechnungszeitraum; verbinden Sie sich anschließend über SSH oder das Browser-Terminal.
Live-Bestand: Verfügbarkeit und Preise ändern sich je nach Marktlage. Die Konsole bestätigt den Endpreis vor Ihrer Bestellung.
Stellen Sie Modelle bereit, die in 32 GB passen – oft quantisiert – mit vLLM, SGLang oder Ollama.
ComfyUI-Workflows mit Flux, SDXL und Videomodellen.
LoRA-Feinabstimmung kleinerer Modelle mit Unsloth Studio.
Ubuntu 24.04 mit CUDA 13.0 zum Erstellen und Testen von GPU-Code.
Prüfen Sie vor der Bestellung den Mindest-VRAM einer Vorlage; Modelle über 32 GB erfordern eine Quantisierung oder eine Multi-GPU-Konfiguration.
32 GB GDDR7 pro GPU. In einer Multi-GPU-Konfiguration verfügt jede GPU über eigene 32 GB.
Die RTX 5090 nutzt die Blackwell-Architektur und erfordert CUDA 12.8 oder neuer. Die Vorlagen für die RTX 5090 verwenden CUDA 12.8 oder 13.0, und es werden nur kompatible Server angeboten.
Stündlich, solange er läuft, oder im monatlichen, vierteljährlichen, halbjährlichen bzw. jährlichen Abrechnungszeitraum. Speicherplatz wird pro GB berechnet; bei einem gestoppten Server mit stündlicher Abrechnung fällt nur der Speicherplatz an.
Ja, Modelle, die in 32 GB VRAM passen – oft mit Quantisierung – oder größere Modelle verteilt auf mehrere GPUs, sofern eine Multi-GPU-Konfiguration verfügbar ist.
Die Verfügbarkeit richtet sich nach dem Live-Bestand. Schauen Sie später noch einmal vorbei oder wählen Sie auf der Seite „GPU Cloud“ eine andere GPU mit ausreichend VRAM.