LLM 추론
vLLM, SGLang 또는 Ollama를 사용하여 주로 양자화를 통해 32 GB에 맞는 모델을 서빙합니다.
32 GB VRAM 탑재 NVIDIA RTX 5090 GPU 임대
LLM 추론, 이미지 생성 및 CUDA 개발을 위한 Blackwell 아키텍처 기반 32 GB GDDR7 메모리 탑재 RTX 5090 서버입니다. 현재 구성과 가격을 확인한 후 콘솔에서 서버를 생성하십시오.
- GPU당 32 GB GDDR7
- CUDA 12.8 및 13.0용 템플릿
- 목록에 표시된 경우 단일 및 다중 GPU 구성 지원
ONIE는 실시간 재고를 통해 32 GB GDDR7 VRAM이 탑재된 NVIDIA RTX 5090 GPU 서버를 임대합니다. PyTorch, vLLM 또는 ComfyUI와 같이 CUDA 12.8 이상용으로 빌드된 템플릿을 선택하고, 디스크 크기를 정한 뒤 시간당 또는 청구 주기별로 결제하고, SSH나 브라우저 터미널로 연결하십시오.
사용 가능한 GPU 및 현재 요금
실시간 재고: 재고 및 요금은 시장 상황에 따라 변동됩니다. 주문 전 콘솔에서 최종 요금을 확인할 수 있습니다.
현재 요금 불러오는 중…
RTX 5090 한눈에 보기
- GPU
- NVIDIA GeForce RTX 5090
- 메모리
- GPU당 32 GB GDDR7
- 아키텍처
- Blackwell
- 소프트웨어
- CUDA 12.8 이상 (CUDA 13.0 포함 템플릿 사용 가능)
RTX 5090 서버의 주요 용도
이미지 및 비디오 생성
Flux, SDXL 및 비디오 모델을 사용하는 ComfyUI 워크플로입니다.
파인튜닝
Unsloth Studio를 사용한 소규모 모델의 LoRA 방식 파인튜닝입니다.
CUDA 개발
GPU 코드 빌드 및 테스트를 위한 CUDA 13.0 포함 Ubuntu 24.04입니다.
주문하기 전에 템플릿의 최소 VRAM을 확인하십시오. 32 GB보다 큰 모델은 양자화 또는 다중 GPU 구성이 필요합니다.
GPU 임대 방법
- 01
템플릿 및 디스크 용량 선택
- 02
실시간 재고에서 호환되는 GPU 선택
- 03
요금을 확인하고 계정 잔액으로 서버 생성
- 04
SSH 또는 브라우저 터미널로 연결
GPU 청구 방식
- 시간당: 서버가 실행되는 동안 시간당 GPU 요금이 부과됩니다. 중지된 시간당 서버는 디스크 요금만 부과됩니다.
- 청구 주기: 월별, 분기별, 반기별 또는 연별로 선택 가능하며, 결제 전 할인 내역이 표시됩니다.
- 디스크 스토리지 요금은 GPU 요금과 함께 GB당 부과됩니다.
- 요금은 USD 기준이며, 현재 환율이 적용된 VND로 표시할 수 있습니다.
자주 묻는 질문
RTX 5090의 VRAM 용량은 얼마인가요?
GPU당 32 GB GDDR7입니다. 다중 GPU 구성에서는 각 GPU마다 32 GB가 탑재되어 있습니다.
어떤 CUDA 버전이 필요한가요?
RTX 5090은 Blackwell 아키텍처를 사용하며 CUDA 12.8 이상이 필요합니다. RTX 5090 템플릿은 CUDA 12.8 또는 13.0을 사용하며, 호환되는 서버만 제공됩니다.
RTX 5090 서버 요금은 어떻게 청구되나요?
실행 중일 때는 시간당 요금제로, 또는 월간, 분기, 반기, 연간 주기로 청구됩니다. 디스크는 GB당 요금이 부과되며, 시간당 요금제 서버가 중지된 상태일 때는 디스크 요금만 청구됩니다.
이 서버에서 대규모 언어 모델(LLM)을 실행할 수 있나요?
네, 주로 양자화를 통해 32 GB VRAM에 맞는 모델을 실행하거나, 다중 GPU 구성을 사용할 수 있는 경우 여러 GPU에 걸쳐 더 큰 모델을 실행할 수 있습니다.
사용 가능한 RTX 5090이 없으면 어떻게 하나요?
가용 여부는 실시간 재고에 따라 달라집니다. 나중에 다시 확인하시거나, GPU Cloud 페이지에서 충분한 VRAM을 갖춘 다른 GPU를 선택해 주세요.