Inférence LLM
vLLM, SGLang ou Ollama avec Open WebUI pour servir et tester des modèles de langage.
Louez des serveurs GPU NVIDIA à l'heure ou par cycle de facturation. Comparez les configurations et les prix en direct, démarrez à partir d'un modèle prêt à l'emploi et connectez-vous via SSH ou le terminal du navigateur.
Avec ONIE GPU Cloud, vous louez un serveur GPU depuis l'inventaire en direct : choisissez le modèle de GPU, la VRAM et le disque, démarrez à partir d'un modèle tel que PyTorch, vLLM, Ollama ou ComfyUI, puis connectez-vous via SSH. Les serveurs à l'heure sont débités du solde de votre compte, et un serveur à l'heure arrêté n'est facturé que pour son disque.
Inventaire en temps réel : la disponibilité et les tarifs évoluent selon le marché. La console confirme le prix final avant votre commande.
vLLM, SGLang ou Ollama avec Open WebUI pour servir et tester des modèles de langage.
Unsloth Studio pour affiner des modèles de langage sur vos propres données.
ComfyUI pour les workflows Flux, SDXL et vidéo.
Images PyTorch et Ubuntu 24.04 avec NVIDIA CUDA, accessibles via SSH.
Un bureau Ubuntu dans le navigateur, ou une machine virtuelle KVM complète lorsque vous en avez besoin.
Chaque modèle indique sa version minimale de CUDA, la VRAM et le disque requis ; seuls les GPU compatibles sont proposés.
Des charges de travail qui tiennent dans la mémoire du GPU : inférence et ajustement fin de LLM, génération d'images et de vidéos, rendu et développement CUDA. Les modèles pour PyTorch, vLLM, SGLang, Ollama, Unsloth et ComfyUI installent les logiciels pour vous.
Via SSH avec votre clé, ou avec le terminal dans votre navigateur depuis la console. Les modèles de bureau et de VM fournissent également un accès graphique.
Les prix proviennent de l'inventaire GPU en direct et peuvent évoluer. La console affiche le prix confirmé avant votre commande, et votre serveur est facturé à ce prix confirmé.
Avec la facturation à l'heure, un serveur arrêté n'est débité que pour son disque. Supprimez le serveur lorsque vous n'avez plus besoin de ses données.
Le tableau ci-dessus répertorie les configurations actuellement disponibles, y compris le NVIDIA RTX 5090 avec 32 GB de VRAM lorsqu'il est en stock. La disponibilité évolue tout au long de la journée.