LLM 추론
Open WebUI가 포함된 vLLM, SGLang 또는 Ollama로 언어 모델을 서빙하고 테스트합니다.
시간당 또는 청구 주기별로 NVIDIA GPU 서버를 임대하세요. 실시간 구성과 요금을 비교하고, 사전 구성된 템플릿으로 시작한 뒤 SSH 또는 브라우저 터미널로 연결할 수 있습니다.
ONIE GPU Cloud를 사용하면 실시간 재고에서 GPU 서버를 임대할 수 있습니다. GPU 모델, VRAM 및 디스크를 선택하고 PyTorch, vLLM, Ollama 또는 ComfyUI와 같은 템플릿으로 시작한 후 SSH로 연결하세요. 시간당 서버는 계정 잔액에서 요금이 차감되며, 중지된 시간당 서버는 디스크 요금만 청구됩니다.
실시간 재고: 재고 및 요금은 시장 상황에 따라 변동됩니다. 주문 전 콘솔에서 최종 요금을 확인할 수 있습니다.
Open WebUI가 포함된 vLLM, SGLang 또는 Ollama로 언어 모델을 서빙하고 테스트합니다.
자체 데이터로 언어 모델을 파인튜닝하기 위한 Unsloth Studio입니다.
Flux, SDXL 및 비디오 워크플로를 위한 ComfyUI입니다.
SSH를 통해 접속할 수 있는 NVIDIA CUDA 포함 PyTorch 및 Ubuntu 24.04 이미지입니다.
필요할 때 사용할 수 있는 브라우저 내 Ubuntu 데스크톱 또는 전체 KVM 가상 머신입니다.
각 템플릿에는 최소 CUDA 버전, VRAM 및 디스크 사양이 명시되어 있으며, 호환되는 GPU만 제공됩니다.
GPU 메모리에 맞는 워크로드(LLM 추론 및 파인튜닝, 이미지 및 비디오 생성, 렌더링, CUDA 개발)를 실행할 수 있습니다. PyTorch, vLLM, SGLang, Ollama, Unsloth 및 ComfyUI 템플릿이 소프트웨어를 자동으로 설치해 줍니다.
키를 사용하여 SSH로 연결하거나, 콘솔의 브라우저 터미널을 통해 연결합니다. 데스크톱 및 VM 템플릿은 그래픽 인터페이스 접속도 제공합니다.
가격은 실시간 GPU 재고에 따라 책정되며 변경될 수 있습니다. 주문 전 콘솔에 확정된 가격이 표시되며, 서버는 해당 확정 가격으로 청구됩니다.
시간당 청구 방식에서는 중지된 서버에 대해 디스크 요금만 부과됩니다. 데이터가 더 이상 필요하지 않으면 서버를 삭제하십시오.
위 표에는 재고가 있을 때 제공되는 32 GB VRAM 탑재 NVIDIA RTX 5090을 포함하여 현재 사용 가능한 구성이 나와 있습니다. 가용 여부는 하루 중 수시로 변경됩니다.