Pronájem GPU NVIDIA L40S po hodinách
NVIDIA L40S je datacentrové GPU z architektury Ada Lovelace, dostupné k pronájmu v cloudu na ONIE. Nabízí 45 GB VRAM, přibližně 73.3 TFLOPS výpočetního výkonu v jednoduché přesnosti a propustnost paměti přibližně 626 GB/s v rámci tepelného obalu 350 W. Podporuje CUDA compute capability 8.9 a tato instance zvládne náročné úlohy trénování a inference AI i grafické úlohy, s fakturací za hodinu.
Specifikace
VRAM na GPU
Architektura
Výpočetní schopnost
Výpočetní výkon FP32
Propustnost paměti
Limit příkonu
Hodnoty uvedené poskytovatelem infrastruktury pro aktuálně nabízené stroje; skutečný výkon se mezi jednotlivými stroji liší.
Dostupné konfigurace
Aktuální dostupnost a ceny, průběžně aktualizované. Konečná cena je potvrzena před objednáním.
Načítání aktuálních cen…
K čemu se L40S hodí
Inference LLM modelů
Nasazujte kvantizované nebo plně přesné jazykové modely pomocí hotových šablon, jako jsou vLLM a Ollama, v rámci kapacity paměti 45 GB.
Generativní obrazové postupy
Spouštějte složité difuzní pipeline a dávkové generování v ComfyUI díky architektuře Ada Lovelace.
Dolaďování hlubokých neuronových sítí
Dolaďujte neuronové sítě a adaptéry LoRA v prostředích PyTorch/CUDA s výpočetním výkonem přibližně 73.3 TFLOPS.
Datacentrová grafika a renderování
Provádějte headless renderování a simulace, které těží z datacentrového GPU s propustností paměti přibližně 626 GB/s.
Hodí se pro vás tato GPU?
Zvolte L40S, když vaše úloha vyžaduje 45 GB VRAM a spolehlivost datacentrového GPU, a přesahujete tak možnosti běžných spotřebitelských karet. Pokud se vaše modely vejdou do menší paměti, je ekonomičtější menší pracovní stanice nebo spotřebitelské GPU, zatímco rozsáhlé nekvantizované základní modely vyžadují datacentrové GPU s větší kapacitou paměti.
Porovnat s podobnými GPU
| GPU | VRAM na GPU | Architektura | Výpočetní výkon FP32 | Od / hodinu | Podrobnosti |
|---|---|---|---|---|---|
| L40S | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | — | |
| RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | — | Podrobnosti |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Podrobnosti |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je NVIDIA L40S vhodná pro inference LLM a dolaďování?
Ano. S 45 GB VRAM a CUDA compute capability 8.9 je L40S vhodná pro provoz středně velkých až velkých jazykových modelů a pro parametricky efektivní dolaďování. Instance můžete spustit s předkonfigurovanými šablonami vLLM, Ollama nebo PyTorch/CUDA.
Jak se L40S srovnává se spotřebitelskými GPU nebo většími datacentrovými GPU?
L40S nabízí více VRAM než běžné spotřebitelské karty Ada Lovelace, takže dokáže udržet větší váhy modelů bez odkládání do jiné paměti. Má však nižší propustnost paměti než datacentrová GPU určená pouze pro výpočty s vysokou kapacitou paměti, která jsou vhodnější pro rozsáhlé úlohy trénování náročné na paměťovou propustnost.
Jak se připojím ke své instanci L40S na ONIE a jak ji nakonfiguruji?
Plný přístup přes SSH získáte, jakmile se instance spustí. Můžete také vybrat hotové šablony včetně PyTorch/CUDA, ComfyUI, vLLM a Ollama a začít pracovat okamžitě.
Jak funguje fakturace u L40S?
Na ONIE se všechny pronájmy L40S účtují za každou hodinu. Platíte pouze za dobu, po kterou je instance přidělena.
Pronajměte si L40S po hodinách
Vytvořte si účet, vyberte konfiguraci a připojte se přes SSH. Účtování skončí, jakmile GPU smažete.
Pronajmout L40S