NVIDIA L4 GPU 시간당 대여
NVIDIA L4는 22 GB VRAM과 72 W 소비 전력을 갖춘 Ada Lovelace 아키텍처 기반 데이터센터 GPU입니다. CUDA 연산 능력 8.9를 지원하며, 약 24.2 TFLOPS의 단정밀도 부동소수점 성능과 약 221 GB/s의 메모리 대역폭을 제공합니다. ONIE에서 시간당 과금, 전체 SSH 액세스, 그리고 PyTorch/CUDA, vLLM, Ollama, ComfyUI용 사전 구성 템플릿과 함께 대여하여 사용해 보십시오.
사양
GPU당 VRAM
아키텍처
연산 능력
FP32 연산
메모리 대역폭
전력 제한
현재 등록된 머신에 대해 인프라 제공업체가 보고한 수치이며, 실제 성능은 머신에 따라 다를 수 있습니다.
이용 가능한 구성
실시간 재고 및 가격 정보는 지속적으로 업데이트됩니다. 최종 가격은 주문 전에 확정됩니다.
실시간 가격을 불러오는 중…
L4의 주요 용도
언어 모델 추론
사전 구성된 vLLM 또는 Ollama 템플릿을 사용하여 22 GB VRAM 버퍼에서 양자화된 모델이나 중소형 언어 모델을 실행합니다.
이미지 생성 워크플로
Ada Lovelace 아키텍처 기능을 활용하면서 22 GB 메모리 내에서 원활하게 작동하는 ComfyUI 파이프라인을 배포합니다.
경량 파인튜닝
고전력 데이터센터 카드 없이도 PyTorch/CUDA 환경에서 파라미터 효율적 파인튜닝 및 어댑터 학습 작업을 수행합니다.
배치 미디어 및 비전 처리
72 W 정격 데이터센터 GPU에서 컴퓨터 비전 추론 및 비디오 워크로드를 처리합니다.
나에게 맞는 GPU인가요?
추론이나 적정 수준의 학습 워크로드를 위해 22 GB VRAM과 Ada Lovelace 연산 능력 8.9가 필요한 경우 L4를 선택하십시오. 모델이 22 GB를 초과하거나 약 221 GB/s 이상의 메모리 대역폭이 필요한 경우에는 더 큰 데이터센터 GPU로 전환하고, 더 적은 메모리를 필요로 하는 기본 개발 작업에는 소형 카드를 선택하십시오.
유사한 GPU와 비교
자주 묻는 질문
NVIDIA L4는 LLM 추론에 적합합니까?
네, 22 GB VRAM을 통해 중소형 언어 모델이나 양자화된 가중치를 호스팅할 수 있습니다. ONIE에서 vLLM 또는 Ollama 템플릿을 실행하여 즉시 모델 서빙을 시작할 수 있습니다.
L4는 더 큰 데이터센터 GPU와 비교했을 때 어떻습니까?
L4는 72 W의 소비 전력, 약 24.2 TFLOPS의 단정밀도 연산 성능, 약 221 GB/s의 메모리 대역폭으로 효율성에 맞춰 설계되었습니다. 대형 데이터센터 GPU는 대규모 학습을 위해 더 많은 VRAM과 더 높은 메모리 대역폭을 제공하는 반면, L4는 비용 효율적인 추론과 가벼운 워크로드에 중점을 둡니다.
ONIE에서 L4에 사용할 수 있는 소프트웨어 템플릿은 무엇입니까?
PyTorch/CUDA, vLLM, Ollama, ComfyUI용으로 준비된 템플릿을 사용하여 L4를 배포할 수 있습니다. 모든 인스턴스에는 SSH 액세스가 포함되어 있어 소프트웨어 환경과 CUDA 연산 능력 8.9 워크플로를 직접 맞춤 설정할 수 있습니다.
L4 인스턴스의 청구는 어떻게 이루어집니까?
ONIE는 L4 인스턴스 요금을 시간 단위로 청구합니다. 인스턴스가 활성화된 시간에 대해서만 비용을 지불하므로 짧은 실험과 지속적인 추론 작업 모두에 실용적입니다.
L4 시간당 대여
계정을 생성하고 구성을 선택한 후 SSH로 연결하세요. GPU를 삭제하면 청구가 중지됩니다.
L4 대여