GPU Cloud · NVIDIA · Ada Lovelace

Huur NVIDIA L4 GPU per uur

Die NVIDIA L4 is 'n datasentrum-GPU met die Ada Lovelace-argitektuur, toegerus met 22 GB VRAM en 'n kragverbruik van 72 W. Dit lewer ongeveer 24,2 TFLOPS enkelpresisie-drywende-kommaverrigting en ongeveer 221 GB/s geheuebandwydte, met CUDA-rekenvermoë 8.9. Huur dit op ONIE met betaling per uur, volledige SSH-toegang en gereedgemaakte sjablone vir PyTorch/CUDA, vLLM, Ollama en ComfyUI.

Spesifikasies

VRAM per GPU

22 GB

Argitektuur

NVIDIA Ada Lovelace

Rekenvermoë-vlak

8.9

FP32-rekenkrag

≈ 24.2 TFLOPS

Geheuebandwydte

≈ 221 GB/s

Kraglimiet

72 W

Waardes wat deur die infrastruktuurverskaffer vir masjiene wat tans gelys is, verskaf word; werklike werkverrigting wissel van masjien tot masjien.

Beskikbare konfigurasies

Lewendige voorraad en pryse, voortdurend opgedateer. Die finale prys word bevestig voordat jy bestel.

Lewendige pryse word gelaai…

Waarvoor die L4 goed is

Taalmodel-inferensie

Laat gekwantiseerde of klein tot middelgrote taalmodelle in die 22 GB VRAM-buffer loop deur vooraf geconfigureerde vLLM- of Ollama-sjablone te gebruik.

Beeldgenereringswerkvloeie

Ontplooi ComfyUI-pyplyne wat gemaklik binne 22 GB geheue pas en gebruik maak van Ada Lovelace-argitektuurkenmerke.

Ligte fynafstelling

Voer parameter-doeltreffende fynafstelling- en adapteropleidingstake uit in PyTorch/CUDA-omgewings sonder dat 'n hoëwattasie-datasentrumkaart nodig is.

Groepsmedia en visie

Verwerk rekenaarvisie-inferensie en videowerkladings op 'n datasentrum-GPU met 'n graad van 72 W.

Is dit die regte GPU vir jou?

Kies die L4 wanneer jy 22 GB VRAM en Ada Lovelace-rekenvermoë 8.9 nodig het vir inferensie of matige opleidingswerkladings. Skuif na 'n groter datasentrum-GPU as jou modelle 22 GB oorskry of meer as ongeveer 221 GB/s geheuebandwydte vereis, of kies 'n kleiner kaart vir basiese ontwikkelingstake wat minder geheue benodig.

Vergelyk met soortgelyke GPU's

GPUVRAM per GPUArgitektuurFP32-rekenkragVanaf / uurBesonderhede
L422 GBAda Lovelace≈ 24.2 TFLOPS—
RTX 5060 Ti16 GBBlackwell≈ 22.8 TFLOPS—Besonderhede
RTX 4060 Ti16 GBAda Lovelace≈ 21.6 TFLOPS—Besonderhede
RTX A400016 GBAmpere≈ 20.6 TFLOPS—Besonderhede

Gereelde vrae

Is die NVIDIA L4 geskik vir LLM-inferensie?

Ja, die 22 GB VRAM laat jou toe om klein en middelgrote taalmodelle of gekwantiseerde gewigte te huisves. Jy kan vLLM- of Ollama-sjablone op ONIE begin om modelle onmiddellik te bedien.

Hoe vergelyk die L4 met groter datasentrum-GPU's?

Die L4 is ontwerp vir doeltreffendheid met 'n kragverbruik van 72 W, ongeveer 24,2 TFLOPS enkelpresisie-rekenvermoë en ongeveer 221 GB/s geheuebandwydte. Groter datasentrum-GPU's bied meer VRAM en hoër geheuebandwydte vir swaar opleiding, terwyl die L4 fokus op koste-doeltreffende inferensie en liggewig werkladings.

Watter sagteware-sjablone is beskikbaar vir die L4 op ONIE?

Jy kan die L4 ontplooi met gereedgemaakte sjablone vir PyTorch/CUDA, vLLM, Ollama en ComfyUI. Alle instansies sluit SSH-toegang in, sodat jy jou sagteware-omgewing en CUDA-rekenvermoë 8.9-werkvloeie kan aanpas.

Hoe werk fakturering vir L4-instansies?

ONIE factureer L4-instansies op 'n per-uur-basis. Jy betaal slegs vir die tyd wat jou instansie aktief is, wat dit prakties maak vir beide kort eksperimente en deurlopende inferensietake.

Huur die L4 per uur

Skep 'n rekening, kies 'n konfigurasie en koppel oor SSH. Fakturering stop wanneer jy die GPU uitvee.

Huur L4

Alle GPU's →