Inférence LLM
Déployez des modèles tenant dans 32 GB, souvent quantifiés, avec vLLM, SGLang ou Ollama.
Serveurs RTX 5090 avec 32 GB de mémoire GDDR7 sur l'architecture Blackwell, pour l'inférence LLM, la génération d'images et le développement CUDA. Consultez les configurations et les prix actuels, puis créez votre serveur depuis la console.
ONIE loue des serveurs GPU NVIDIA RTX 5090 avec 32 GB de VRAM GDDR7 à partir d'un inventaire en direct. Choisissez un modèle conçu pour CUDA 12.8 ou version ultérieure, tel que PyTorch, vLLM ou ComfyUI, sélectionnez une taille de disque et payez à l'heure ou par cycle de facturation ; connectez-vous ensuite via SSH ou le terminal du navigateur.
Inventaire en temps réel : la disponibilité et les tarifs évoluent selon le marché. La console confirme le prix final avant votre commande.
Déployez des modèles tenant dans 32 GB, souvent quantifiés, avec vLLM, SGLang ou Ollama.
Flux de travail ComfyUI avec Flux, SDXL et modèles vidéo.
Fine-tuning de type LoRA de modèles plus petits avec Unsloth Studio.
Ubuntu 24.04 avec CUDA 13.0 pour compiler et tester du code GPU.
Vérifiez la VRAM minimale d'un modèle avant de commander ; les modèles dépassant 32 GB nécessitent une quantification ou une configuration multi-GPU.
32 GB de GDDR7 par GPU. Dans une configuration multi-GPU, chaque GPU dispose de ses propres 32 GB.
La RTX 5090 utilise l'architecture Blackwell et nécessite CUDA 12.8 ou une version plus récente. Les modèles pour RTX 5090 utilisent CUDA 12.8 ou 13.0, et seuls les serveurs compatibles sont proposés.
À l'heure tant qu'il est en cours d’exécution, ou par cycle mensuel, trimestriel, semestriel ou annuel. Le disque est débité par GB, et un serveur horaire arrêté n'est facturé que pour son disque.
Oui, des modèles qui tiennent dans 32 GB de VRAM, souvent avec quantification, ou des modèles plus grands répartis sur plusieurs GPU lorsqu'une configuration multi-GPU est disponible.
La disponibilité suit l'inventaire en temps réel. Revenez plus tard ou choisissez un autre GPU doté de suffisamment de VRAM sur la page GPU Cloud.