Louez un GPU NVIDIA RTX 3090 à l’heure
Le NVIDIA RTX 3090 est un GPU grand public d’architecture Ampere doté de 24 GB de VRAM et d’une capacité de calcul de 8.6. Il offre environ 35.4 TFLOPS de calcul en simple précision standard et environ 805 GB/s de bande passante mémoire pour une puissance nominale de 350 W. Vous pouvez louer ce GPU sur ONIE avec une facturation à l’heure, un accès SSH complet et des modèles prêts à l’emploi pour PyTorch/CUDA, vLLM, Ollama et ComfyUI.
Spécifications
VRAM par GPU
Architecture
Capacité de calcul
Calcul FP32
Bande passante mémoire
Limite de puissance
Valeurs communiquées par le fournisseur d’infrastructure pour les machines actuellement répertoriées ; les performances réelles varient selon la machine.
Configurations disponibles
Stock et tarifs en temps réel, mis à jour en continu. Le prix final est confirmé avant votre commande.
Chargement des tarifs en temps réel…
Cas d’usage idéaux pour le RTX 3090
Inférence LLM à échelle locale
Exécutez des modèles de langage quantifiés ou de taille moyenne dans 24 GB de VRAM à l’aide de modèles vLLM ou Ollama préconfigurés.
Flux de travail de génération d’images
Déployez ComfyUI pour générer des images haute résolution et exécuter des pipelines de diffusion personnalisés sans atteindre les limites de mémoire des cartes grand public standard.
Ajustement fin et entraînement de modèles
Utilisez le modèle PyTorch/CUDA pour affiner des réseaux de neurones tenant dans une enveloppe mémoire de 24 GB et tirez parti d’environ 805 GB/s de bande passante mémoire.
Calcul CUDA général
Exécutez des charges de travail personnalisées compilées pour une capacité de calcul de 8.6 avec une performance d’environ 35.4 TFLOPS en simple précision.
Est-ce le bon GPU pour vous ?
Le RTX 3090 convient aux développeurs et aux chercheurs qui ont besoin de 24 GB de VRAM pour des tâches gourmandes en mémoire sur une carte Ampere grand public. Choisissez un GPU plus modeste pour une inférence légère nécessitant moins de mémoire, ou optez pour un GPU de station de travail ou de centre de données si vos modèles dépassent 24 GB de VRAM ou requièrent des fonctionnalités d’architecture plus récentes.
Comparer avec des GPU similaires
Questions fréquentes
Le RTX 3090 est-il adapté à l’inférence et à l’ajustement fin de LLM ?
Oui, ses 24 GB de VRAM et ses quelque 805 GB/s de bande passante mémoire lui permettent d’exécuter et d’affiner de nombreux modèles de langage à poids ouverts. Vous pouvez lancer des modèles vLLM, Ollama ou PyTorch/CUDA directement sur ONIE pour commencer à travailler immédiatement.
Comment le RTX 3090 se compare-t-il aux GPU plus petits ou plus grands ?
Avec 24 GB de VRAM, le RTX 3090 peut contenir nettement plus de poids de modèles et des tailles de lots plus importantes que les cartes grand public de gamme inférieure. Toutefois, si votre charge de travail nécessite plus de 24 GB de mémoire ou plus d’environ 35.4 TFLOPS de calcul en simple précision, vous devriez envisager un GPU de génération plus récente ou destiné aux centres de données.
Comment me connecter à mon instance RTX 3090 et quels logiciels sont inclus ?
Vous pouvez vous connecter directement à votre instance via un accès SSH. ONIE fournit des modèles prêts à l’emploi pour PyTorch/CUDA, vLLM, Ollama et ComfyUI afin que vous n’ayez pas à configurer la pile logicielle manuellement.
Comment fonctionne la facturation pour le RTX 3090 sur ONIE ?
Les instances sont facturées à l’heure. Vous ne payez que pour la durée pendant laquelle votre instance GPU est active.
Louez le RTX 3090 à l’heure
Créez un compte, choisissez une configuration et connectez-vous via SSH. La facturation s’arrête lorsque vous supprimez le GPU.
Louer un RTX 3090