Prenájom GPU NVIDIA L40S po hodinách
NVIDIA L40S je GPU pre dátové centrá s architektúrou Ada Lovelace, ktorý si môžete prenajať v cloude na ONIE. Ponúka 45 GB VRAM, približne 73.3 TFLOPS výpočtového výkonu s jednoduchou presnosťou a pamäťovú priepustnosť približne 626 GB/s pri spotrebe 350 W. Táto inštancia s podporou CUDA compute capability 8.9 zvládne náročné úlohy trénovania a inferencie AI aj grafické úlohy, pričom platíte za každú hodinu.
Špecifikácie
VRAM na jedno GPU
Architektúra
Výpočtová schopnosť
Výpočtový výkon FP32
Šírka pásma pamäte
Limit príkonu
Hodnoty uvádza poskytovateľ infraštruktúry pre aktuálne ponúkané stroje; skutočný výkon sa môže podľa stroja líšiť.
Dostupné konfigurácie
Aktuálna dostupnosť a ceny, priebežne aktualizované. Konečná cena sa potvrdí pred objednávkou.
Načítavajú sa aktuálne ceny…
Na čo sa L40S hodí
Inferencia veľkých jazykových modelov
Nasadzujte kvantizované aj modely s plnou presnosťou pomocou pripravených šablón, ako sú vLLM a Ollama, v rámci kapacity 45 GB pamäte.
Generovanie obrázkov
Spúšťajte zložité difúzne pipeline a dávkové generovanie v ComfyUI s využitím architektúry Ada Lovelace.
Doladenie modelov hlbokého učenia
Dolaďujte neurónové siete a adaptéry LoRA v prostrediach PyTorch/CUDA s využitím výpočtového výkonu približne 73.3 TFLOPS.
Grafika a vykresľovanie v dátových centrách
Spúšťajte vykresľovanie bez grafického rozhrania a simulačné úlohy, ktoré využijú GPU pre dátové centrá s pamäťovou priepustnosťou približne 626 GB/s.
Je to pre vás správne GPU?
L40S si vyberte, ak vaša záťaž vyžaduje 45 GB VRAM a spoľahlivosť dátového centra a presahuje možnosti bežných spotrebiteľských kariet. Ak sa vaše modely zmestia do menšej pamäte, úspornejšou voľbou je menšia pracovná stanica alebo spotrebiteľské GPU. Pre rozsiahle základné modely bez kvantizácie je vhodnejšie GPU pre dátové centrá s väčšou pamäťou.
Porovnajte s podobnými GPU
| GPU | VRAM na jedno GPU | Architektúra | Výpočtový výkon FP32 | Od / hodina | Podrobnosti |
|---|---|---|---|---|---|
| L40S | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | — | |
| RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | — | Podrobnosti |
| RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | — | Podrobnosti |
| RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je NVIDIA L40S vhodná na inferenciu a dolaďovanie LLM?
Áno. Vďaka 45 GB VRAM a CUDA compute capability 8.9 je L40S vhodná na prevádzku stredne veľkých až veľkých jazykových modelov a na efektívne dolaďovanie s malým počtom upravovaných parametrov. Môžete spustiť inštancie s prednastavenými šablónami vLLM, Ollama alebo PyTorch/CUDA.
Ako si L40S stojí v porovnaní so spotrebiteľskými GPU a výkonnejšími GPU pre dátové centrá?
L40S ponúka viac VRAM než bežné spotrebiteľské karty s architektúrou Ada Lovelace, takže dokáže uchovávať väčšie váhy modelov bez presúvania dát mimo GPU. Má však nižšiu pamäťovú priepustnosť než GPU pre dátové centrá s veľkou pamäťou, ktoré sú vhodnejšie na rozsiahle úlohy trénovania limitované priepustnosťou pamäte.
Ako sa pripojím k inštancii L40S na ONIE a ako ju nakonfigurujem?
Po spustení inštancie získate úplný SSH prístup do svojho prostredia. Môžete si tiež vybrať pripravené šablóny vrátane PyTorch/CUDA, ComfyUI, vLLM a Ollama a začať pracovať okamžite.
Ako sa účtuje prenájom L40S?
ONIE účtuje všetky prenájmy L40S za každú hodinu. Platíte iba za čas, počas ktorého je vaša inštancia pridelená.
Prenajmite si L40S na hodiny
Vytvorte si účet, vyberte konfiguráciu a pripojte sa cez SSH. Fakturácia sa zastaví, keď GPU vymažete.
Prenajať L40S