LLM-afleiding
vLLM, SGLang of Ollama met Open WebUI om taalmodelle te bedien en te toets.
Huur NVIDIA GPU-bedieners per uur of per faktureringssiklus. Vergelyk lewendige konfigurasies en pryse, begin vanaf 'n gereed gemaakte sjabloon en koppel via SSH of die blaaier-terminaal.
Met ONIE GPU Cloud huur jy 'n GPU-bediener uit die lewendige voorraad: kies die GPU-model, VRAM en skyf, begin vanaf 'n sjabloon soos PyTorch, vLLM, Ollama of ComfyUI, en koppel dan via SSH. Per-uur-bedieners word vanaf jou rekeningsaldo gehef, en 'n gestopte per-uur-bediener word slegs vir sy skyf gefaktureer.
Lewendige voorraad: beskikbaarheid en pryse verander met die mark. Die konsole bevestig die finale prys voordat jy bestel.
vLLM, SGLang of Ollama met Open WebUI om taalmodelle te bedien en te toets.
Unsloth Studio vir fyninstelling van taalmodelle op jou eie data.
ComfyUI vir Flux, SDXL en video-werkvloeie.
PyTorch- en Ubuntu 24.04-beelde met NVIDIA CUDA, toeganklik via SSH.
'n Ubuntu-lessenaar in die blaaier, of 'n volledige KVM-virtuele masjien wanneer jy een nodig het.
Elke sjabloon lys sy minimum CUDA-weergawe, VRAM en skyf; slegs versoenbare GPU's word daarvoor aangebied.
Werkslaste wat in die GPU-geheue pas: LLM-afleiding en fyninstelling, beeld- en videogenerering, rendering en CUDA-ontwikkeling. Sjablone vir PyTorch, vLLM, SGLang, Ollama, Unsloth en ComfyUI installeer die sagteware vir jou.
Via SSH met jou sleutel, of met die terminaal in jou blaaier vanaf die konsole. Lessenaar- en VM-sjablone bied ook grafiese toegang.
Pryse kom uit die lewendige GPU-voorraad en kan verander. Die konsole wys die bevestigde prys voordat jy bestel, en jou bediener word teen daardie bevestigde prys gefaktureer.
Met uurlikse fakturering word 'n gestopte bediener slegs vir sy skyf gehef. Verwyder die bediener wanneer jy nie meer die data daarop nodig het nie.
Die tabel hierbo lys die konfigurasies wat tans beskikbaar is, insluitend die NVIDIA RTX 5090 met 32 GB VRAM wanneer dit op voorraad is. Beskikbaarheid verander gedurende die dag.