Louez un GPU NVIDIA RTX 3090 Ti à l’heure
Le NVIDIA RTX 3090 Ti est un GPU grand public d’architecture Ampere doté de 24 GB de VRAM et d’une enveloppe thermique (TDP) de 450 W. Il délivre environ 36.4 TFLOPS de calcul en simple précision et près de 865 GB/s de bande passante mémoire, avec la prise en charge de CUDA compute capability 8.6. Sur ONIE, vous pouvez louer ce matériel avec une facturation à l’heure, un accès SSH direct et des modèles logiciels préconfigurés.
Spécifications
VRAM par GPU
Architecture
Capacité de calcul
Calcul FP32
Bande passante mémoire
Limite de puissance
Valeurs communiquées par le fournisseur d’infrastructure pour les machines actuellement répertoriées ; les performances réelles varient selon la machine.
Configurations disponibles
Stock et tarifs en temps réel, mis à jour en continu. Le prix final est confirmé avant votre commande.
Chargement des tarifs en temps réel…
Cas d’usage idéaux pour le RTX 3090 Ti
Inférence LLM locale
Exécutez des modèles de langage quantifiés qui tiennent aisément dans 24 GB de VRAM grâce aux modèles vLLM ou Ollama prêts à l’emploi.
Flux de génération d’images
Exécutez des pipelines de diffusion complexes et des graphes de nœuds personnalisés avec le modèle ComfyUI, en tirant parti d’environ 865 GB/s de bande passante mémoire.
Prototypage en apprentissage profond
Développez et testez des réseaux de neurones sous PyTorch avec la prise en charge de CUDA compute capability 8.6 et environ 36.4 TFLOPS de calcul en simple précision.
Ajustement fin LoRA
Entraînez des adaptateurs légers et affinez des modèles de vision ou de texte de taille moyenne sans dépasser la limite mémoire de 24 GB.
Est-ce le bon GPU pour vous ?
La RTX 3090 Ti est un choix judicieux pour les développeurs et les chercheurs qui ont besoin de 24 GB de VRAM sur une carte grand public Ampere pour des tâches d’inférence ou d’entraînement modéré. Optez pour un GPU avec moins de mémoire si vous n’exécutez que de petits modèles, ou passez à un GPU de station de travail ou de centre de données si vos charges de travail nécessitent plus de 24 GB de VRAM ou des fonctionnalités architecturales plus récentes.
Comparer avec des GPU similaires
Questions fréquentes
La RTX 3090 Ti est-elle adaptée à l’inférence LLM et à la génération d’images ?
Oui, ses 24 GB de VRAM et ses quelque 865 GB/s de bande passante mémoire en font une solution bien adaptée pour héberger des modèles de langage de taille moyenne ou quantifiés, ainsi que pour exécuter des flux de génération d’images. Vous pouvez lancer des modèles préconfigurés pour vLLM, Ollama ou ComfyUI afin de démarrer immédiatement.
Comment la RTX 3090 Ti se compare-t-elle aux GPU grand public ou de station de travail plus récents ?
En tant que GPU grand public de génération Ampere avec une capacité de calcul 8.6, elle offre la même capacité de 24 GB de VRAM que les cartes grand public haut de gamme plus récentes, bien que les nouvelles architectures offrent généralement un débit de calcul plus élevé et une meilleure efficacité énergétique que sa conception de 450 W. Si votre charge de travail est strictement limitée par la mémoire et tient dans 24 GB, elle reste une option performante.
Comment me connecter à mon instance RTX 3090 Ti sur ONIE ?
Une fois votre instance en cours d’exécution, vous pouvez vous connecter directement via SSH pour un contrôle total en ligne de commande. Vous pouvez également déployer des modèles prêts à l’emploi pour PyTorch avec CUDA, vLLM, Ollama ou ComfyUI.
Comment fonctionne la facturation pour la location de ce GPU ?
Les instances sur ONIE utilisent une facturation à l’heure, ce qui vous permet de ne payer que pour la durée pendant laquelle votre environnement RTX 3090 Ti est actif.
Louez le RTX 3090 Ti à l’heure
Créez un compte, choisissez une configuration et connectez-vous via SSH. La facturation s’arrête lorsque vous supprimez le GPU.
Louer un RTX 3090 Ti