Noleggia GPU NVIDIA L40S a ore
La NVIDIA L40S è una GPU per datacenter con architettura Ada Lovelace disponibile per il noleggio in cloud su ONIE. Offre 45 GB di VRAM, circa 73.3 TFLOPS di potenza di calcolo in singola precisione e una larghezza di banda della memoria di circa 626 GB/s entro un limite di consumo di 350 W. Con il supporto per la capacità di calcolo CUDA 8.9, questa istanza gestisce carichi di lavoro impegnativi di addestramento AI, inferenza e grafica con fatturazione oraria.
Specifiche
VRAM per GPU
Architettura
Capacità di calcolo
Calcolo FP32
Larghezza di banda della memoria
Limite di potenza
Valori dichiarati dal provider dell'infrastruttura per le macchine attualmente in elenco; le prestazioni reali variano in base alla macchina.
Configurazioni disponibili
Disponibilità e prezzi in tempo reale, aggiornati costantemente. Il prezzo finale viene confermato prima dell'ordine.
Caricamento dei prezzi in tempo reale…
A cosa è adatta la L40S
Inferenza di modelli linguistici di grandi dimensioni
Distribuisci modelli linguistici quantizzati o a precisione intera utilizzando modelli pronti all'uso come vLLM e Ollama entro i 45 GB di capacità di memoria.
Flussi di lavoro di generazione di immagini
Esegui pipeline di diffusione complesse e attività di generazione in batch in ComfyUI sfruttando l'architettura Ada Lovelace.
Fine-tuning per il Deep Learning
Esegui il fine-tuning di reti neurali e adattatori LoRA in ambienti PyTorch/CUDA sfruttando circa 73.3 TFLOPS di potenza di calcolo.
Grafica e rendering per datacenter
Esegui attività di rendering headless e simulazione che traggono vantaggio da una GPU per datacenter con circa 626 GB/s di larghezza di banda della memoria.
È la GPU adatta alle tue esigenze?
Scegli la L40S quando il carico di lavoro richiede 45 GB di VRAM e l'affidabilità di un datacenter, superando i limiti delle schede consumer standard. Se i modelli rientrano in una quantità di memoria inferiore, una GPU per workstation o consumer più piccola risulta più economica, mentre i modelli fondazionali massivi non quantizzati richiedono una GPU per datacenter con maggiore memoria.
Confronta con GPU simili
Domande frequenti
La NVIDIA L40S è adatta per l'inferenza e il fine-tuning di LLM?
Sì, con 45 GB di VRAM e capacità di calcolo CUDA 8.9, la L40S è ideale per l'esecuzione di modelli linguistici di medie e grandi dimensioni e per il fine-tuning efficiente dei parametri. È possibile avviare istanze con modelli preconfigurati per vLLM, Ollama o PyTorch/CUDA.
Come si posiziona la L40S rispetto alle GPU consumer o alle GPU per datacenter più grandi?
La L40S offre più VRAM rispetto alle schede consumer Ada Lovelace standard, consentendo di mantenere in memoria pesi di modelli più grandi senza ricorrere all'offloading. Tuttavia, ha una larghezza di banda della memoria inferiore rispetto alle GPU per datacenter ad alta memoria dedicate esclusivamente al calcolo, che sono preferibili per enormi carichi di lavoro di addestramento vincolati dalla memoria.
Come posso connettermi e configurare la mia istanza L40S su ONIE?
Ottieni l'accesso SSH completo all'ambiente non appena l'istanza si avvia. È inoltre possibile selezionare modelli pronti all'uso tra cui PyTorch/CUDA, ComfyUI, vLLM e Ollama per iniziare a lavorare immediatamente.
Come funziona la fatturazione per la L40S?
ONIE applica una fatturazione oraria per tutti i noleggi di L40S. Si paga solo per il tempo in cui l'istanza rimane allocata.
Noleggia la L40S a ore
Crea un account, scegli una configurazione e connettiti tramite SSH. La fatturazione si interrompe quando elimini la GPU.
Noleggia L40S