Louez un GPU NVIDIA L4 à l’heure
Le NVIDIA L4 est un GPU pour centre de données basé sur l’architecture Ada Lovelace, doté de 22 GB de VRAM et d’une enveloppe thermique de 72 W. Il offre environ 24.2 TFLOPS de performances en virgule flottante simple précision et environ 221 GB/s de bande passante mémoire avec une capacité de calcul CUDA 8.9. Louez-le sur ONIE avec une facturation à l’heure, un accès SSH complet et des modèles prêts à l’emploi pour PyTorch/CUDA, vLLM, Ollama et ComfyUI.
Spécifications
VRAM par GPU
Architecture
Capacité de calcul
Calcul FP32
Bande passante mémoire
Limite de puissance
Valeurs communiquées par le fournisseur d’infrastructure pour les machines actuellement répertoriées ; les performances réelles varient selon la machine.
Configurations disponibles
Stock et tarifs en temps réel, mis à jour en continu. Le prix final est confirmé avant votre commande.
Chargement des tarifs en temps réel…
Cas d’usage idéaux pour le L4
Inférence de modèles de langage
Exécutez des modèles de langage quantifiés ou de petite à moyenne taille dans la mémoire tampon de 22 GB de VRAM à l’aide de modèles vLLM ou Ollama préconfigurés.
Flux de travail de génération d’images
Déployez des pipelines ComfyUI qui tiennent aisément dans 22 GB de mémoire tout en tirant parti des fonctionnalités de l’architecture Ada Lovelace.
Affinage léger
Exécutez des tâches d’affinage efficaces en paramètres et d’entraînement d’adaptateurs dans des environnements PyTorch/CUDA sans avoir besoin d’une carte de centre de données à forte consommation.
Traitement par lots multimédia et vision
Traitez des charges de travail d’inférence de vision par ordinateur et de vidéo sur un GPU de centre de données évalué à 72 W.
Est-ce le bon GPU pour vous ?
Choisissez le L4 lorsque vous avez besoin de 22 GB de VRAM et d’une capacité de calcul Ada Lovelace 8.9 pour l’inférence ou des charges d’entraînement modérées. Passez à un GPU de centre de données plus puissant si vos modèles dépassent 22 GB ou nécessitent plus d’environ 221 GB/s de bande passante mémoire, ou optez pour une carte plus modeste pour des tâches de développement basiques nécessitant moins de mémoire.
Comparer avec des GPU similaires
Questions fréquentes
Le NVIDIA L4 est-il adapté à l’inférence LLM ?
Oui, les 22 GB de VRAM vous permettent d’héberger des modèles de langage de petite et moyenne taille ou des poids quantifiés. Vous pouvez lancer des modèles vLLM ou Ollama sur ONIE pour commencer à servir vos modèles immédiatement.
Comment le L4 se compare-t-il aux GPU de centre de données plus grands ?
Le L4 est conçu pour l’efficacité avec une consommation électrique de 72 W, environ 24.2 TFLOPS de calcul en simple précision et environ 221 GB/s de bande passante mémoire. Les GPU de centre de données plus grands offrent davantage de VRAM et une bande passante mémoire supérieure pour l’entraînement intensif, tandis que le L4 se concentre sur une inférence économique et des charges de travail légères.
Quels modèles logiciels sont disponibles pour le L4 sur ONIE ?
Vous pouvez déployer le L4 à l’aide de modèles prêts à l’emploi pour PyTorch/CUDA, vLLM, Ollama et ComfyUI. Toutes les instances incluent un accès SSH afin que vous puissiez personnaliser votre environnement logiciel et vos flux de travail basés sur la capacité de calcul CUDA 8.9.
Comment fonctionne la facturation pour les instances L4 ?
ONIE facture les instances L4 à l’heure. Vous ne payez que pour la durée pendant laquelle votre instance est active, ce qui est pratique aussi bien pour de courtes expériences que pour des tâches d’inférence continues.
Louez le L4 à l’heure
Créez un compte, choisissez une configuration et connectez-vous via SSH. La facturation s’arrête lorsque vous supprimez le GPU.
Louer un L4