Magrenta ng NVIDIA L4 GPU kada oras
Ang NVIDIA L4 ay isang datacenter GPU na may arkitekturang Ada Lovelace, na may 22 GB na VRAM at 72 W na power envelope. Nagbibigay ito ng humigit-kumulang 24.2 TFLOPS ng single-precision floating-point performance at humigit-kumulang 221 GB/s na memory bandwidth, na may CUDA compute capability 8.9. Upahan ito sa ONIE na may per-hour na billing, buong SSH access, at handang-gamit na mga template para sa PyTorch/CUDA, vLLM, Ollama, at ComfyUI.
Mga Specification
VRAM bawat GPU
Architecture
Compute capability
FP32 compute
Memory bandwidth
Power limit
Mga halagang iniulat ng infrastructure provider para sa mga makinang kasalukuyang nakalista; nag-iiba ang aktuwal na performance depende sa makina.
Mga available na configuration
Live na stock at presyo, patuloy na ina-update. Kukumpirmahin ang huling presyo bago ka mag-order.
Kinukuha ang live na presyo…
Para saan ang L4
Inference ng Language Model
Magpatakbo ng quantized o maliliit hanggang katamtamang laki ng language model sa 22 GB na VRAM gamit ang mga pre-configured na vLLM o Ollama template.
Mga Workflow sa Image Generation
I-deploy ang mga ComfyUI pipeline na kasya nang maayos sa 22 GB na memory habang ginagamit ang mga feature ng arkitekturang Ada Lovelace.
Magaan na Fine-Tuning
Magsagawa ng parameter-efficient fine-tuning at adapter training jobs sa mga PyTorch/CUDA environment nang hindi kailangan ng high-wattage na datacenter card.
Batch na Media at Vision
Iproseso ang computer vision inference at video workload sa isang datacenter GPU na may rating na 72 W.
Angkop ba sa iyo ang GPU na ito?
Piliin ang L4 kapag kailangan mo ng 22 GB na VRAM at Ada Lovelace compute capability 8.9 para sa inference o katamtamang training workload. Lumipat sa mas malaking datacenter GPU kung lumalampas sa 22 GB ang iyong mga model o kailangan ng higit sa humigit-kumulang 221 GB/s na memory bandwidth, o pumili ng mas maliit na card para sa basic na development task na mas mababa ang kailangang memory.
Ikumpara sa mga katulad na GPU
| GPU | VRAM bawat GPU | Architecture | FP32 compute | Mula / oras | Mga detalye |
|---|---|---|---|---|---|
| L4 | 22 GB | Ada Lovelace | ≈ 24.2 TFLOPS | — | |
| RTX 5060 Ti | 16 GB | Blackwell | ≈ 22.8 TFLOPS | — | Mga detalye |
| RTX 4060 Ti | 16 GB | Ada Lovelace | ≈ 21.6 TFLOPS | — | Mga detalye |
| RTX A4000 | 16 GB | Ampere | ≈ 20.6 TFLOPS | — | Mga detalye |
Mga madalas itanong
Angkop ba ang NVIDIA L4 para sa LLM inference?
Oo, pinapayagan ng 22 GB na VRAM na mag-host ng maliliit at katamtamang laki ng language model o quantized weights. Maaari mong ilunsad agad ang vLLM o Ollama template sa ONIE para makapagsimula sa pag-serve ng mga model.
Paano ihahambing ang L4 sa mas malalaking datacenter GPU?
Dinisenyo ang L4 para sa kahusayan, na may 72 W na power draw, humigit-kumulang 24.2 TFLOPS ng single-precision compute, at humigit-kumulang 221 GB/s na memory bandwidth. Mas maraming VRAM at mas mataas na memory bandwidth ang iniaalok ng mas malalaking datacenter GPU para sa mabibigat na training, habang nakatuon ang L4 sa cost-effective na inference at magagaan na workload.
Anong software template ang available para sa L4 sa ONIE?
Maaari mong i-deploy ang L4 gamit ang mga handang-gamit na template para sa PyTorch/CUDA, vLLM, Ollama, at ComfyUI. Lahat ng instance ay may kasamang SSH access para mapasadya mo ang iyong software environment at ang mga workflow na gumagamit ng CUDA compute capability 8.9.
Paano gumagana ang billing para sa L4 instances?
Naniningil ang ONIE para sa L4 instances kada oras. Nagbabayad ka lang para sa oras na aktibo ang iyong instance, kaya praktikal ito para sa maiikling eksperimento at tuloy-tuloy na inference task.
Magrenta ng L4 kada oras
Gumawa ng account, pumili ng configuration at kumonekta sa pamamagitan ng SSH. Titigil ang billing kapag dinelete mo ang GPU.
Magrenta ng L4