Prenájom GPU NVIDIA L4 po hodinách
NVIDIA L4 je GPU pre dátové centrá s architektúrou Ada Lovelace, vybavené 22 GB VRAM a napájacím limitom 72 W. Poskytuje približne 24.2 TFLOPS výkonu v operáciách s číslami s jednoduchou presnosťou a približne 221 GB/s pamäťovej priepustnosti s výpočtovou schopnosťou CUDA 8.9. Prenajmite si ho na ONIE s hodinovou fakturáciou, plným prístupom cez SSH a pripravenými šablónami pre PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Špecifikácie
VRAM na jedno GPU
Architektúra
Výpočtová schopnosť
Výpočtový výkon FP32
Šírka pásma pamäte
Limit príkonu
Hodnoty uvádza poskytovateľ infraštruktúry pre aktuálne ponúkané stroje; skutočný výkon sa môže podľa stroja líšiť.
Dostupné konfigurácie
Aktuálna dostupnosť a ceny, priebežne aktualizované. Konečná cena sa potvrdí pred objednávkou.
Načítavajú sa aktuálne ceny…
Na čo sa L4 hodí
Inferencia jazykových modelov
Spúšťajte kvantizované alebo malé až stredne veľké jazykové modely v 22 GB VRAM pomocou vopred nakonfigurovaných šablón vLLM alebo Ollama.
Pracovné postupy generovania obrázkov
Nasadzujte postupy ComfyUI, ktoré sa pohodlne zmestia do 22 GB pamäte a využívajú funkcie architektúry Ada Lovelace.
Nenáročné dolaďovanie modelov
Spúšťajte úlohy dolaďovania s efektívnym využitím parametrov a trénovania adaptérov v prostrediach PyTorch/CUDA bez potreby GPU pre dátové centrá s vysokou spotrebou energie.
Dávkové spracovanie médií a obrazu
Spracúvajte inferenciu v oblasti počítačového videnia a videoúlohy na GPU pre dátové centrá so spotrebou 72 W.
Je to pre vás správne GPU?
Vyberte si L4, keď potrebujete 22 GB VRAM a výpočtovú schopnosť Ada Lovelace 8.9 na inferenciu alebo stredne náročné trénovanie. Ak vaše modely presahujú 22 GB alebo vyžadujú viac než približne 221 GB/s pamäťovej priepustnosti, prejdite na väčšie GPU pre dátové centrá. Na základné vývojové úlohy s menšími nárokmi na pamäť si vyberte menšiu kartu.
Porovnajte s podobnými GPU
| GPU | VRAM na jedno GPU | Architektúra | Výpočtový výkon FP32 | Od / hodina | Podrobnosti |
|---|---|---|---|---|---|
| L4 | 22 GB | Ada Lovelace | ≈ 24.2 TFLOPS | — | |
| RTX 5060 Ti | 16 GB | Blackwell | ≈ 22.8 TFLOPS | — | Podrobnosti |
| RTX 4060 Ti | 16 GB | Ada Lovelace | ≈ 21.6 TFLOPS | — | Podrobnosti |
| RTX A4000 | 16 GB | Ampere | ≈ 20.6 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je NVIDIA L4 vhodná na inferenciu LLM?
Áno, 22 GB VRAM vám umožní hostovať malé a stredne veľké jazykové modely alebo kvantizované váhy. Na ONIE môžete spustiť šablóny vLLM alebo Ollama a okamžite začať poskytovať modely.
Ako sa L4 porovnáva s väčšími GPU pre dátové centrá?
L4 je navrhnutá s dôrazom na efektivitu, so spotrebou 72 W, približne 24.2 TFLOPS výpočtového výkonu s jednoduchou presnosťou a približne 221 GB/s pamäťovej priepustnosti. Väčšie GPU pre dátové centrá ponúkajú viac VRAM a vyššiu pamäťovú priepustnosť na náročné trénovanie, zatiaľ čo L4 je zameraná na cenovo efektívnu inferenciu a nenáročné úlohy.
Aké softvérové šablóny sú pre L4 na ONIE k dispozícii?
L4 môžete nasadiť pomocou pripravených šablón pre PyTorch/CUDA, vLLM, Ollama a ComfyUI. Všetky inštancie zahŕňajú prístup cez SSH, takže si môžete prispôsobiť softvérové prostredie a pracovné postupy s výpočtovou schopnosťou CUDA 8.9.
Ako funguje fakturácia inštancií L4?
ONIE účtuje za inštancie L4 na hodinovej báze. Platíte iba za čas, počas ktorého je vaša inštancia aktívna, čo je praktické pri krátkych experimentoch aj priebežných inferenčných úlohách.
Prenajmite si L4 na hodiny
Vytvorte si účet, vyberte konfiguráciu a pripojte sa cez SSH. Fakturácia sa zastaví, keď GPU vymažete.
Prenajať L4