Lej en NVIDIA RTX 3090 GPU pr. time
NVIDIA RTX 3090 er en forbruger-GPU med Ampere-arkitektur, udstyret med 24 GB VRAM og compute capability 8.6. Den leverer omkring 35.4 TFLOPS standard single-precision-beregning og omkring 805 GB/s hukommelsesbåndbredde ved en effektangivelse på 350 W. Du kan leje denne GPU på ONIE med timebaseret fakturering, fuld SSH-adgang og klar-til-brug-skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI.
Specifikationer
VRAM pr. GPU
Arkitektur
Compute capability
FP32-beregning
Hukommelsesbåndbredde
Effektgrænse
Værdier oplyst af infrastrukturudbyderen for de maskiner, der aktuelt er listet; den reelle ydeevne varierer fra maskine til maskine.
Tilgængelige konfigurationer
Lagerstatus og priser opdateres løbende. Den endelige pris bekræftes, før du bestiller.
Indlæser aktuelle priser…
Hvad RTX 3090 er god til
Lokal LLM-inferens i mindre skala
Kør kvantiserede eller mellemstore sprogmodeller i 24 GB VRAM ved hjælp af forkonfigurerede vLLM- eller Ollama-skabeloner.
Billedgenereringsworkflows
Implementer ComfyUI til at generere billeder i høj opløsning og køre tilpassede diffusionspipelines uden at ramme hukommelsesgrænser på almindelige forbrugerkort.
Finjustering og træning af modeller
Brug PyTorch/CUDA-skabelonen til at finjustere neurale netværk, der passer inden for en 24 GB hukommelsesramme, og udnyt omkring 805 GB/s hukommelsesbåndbredde.
Generel CUDA-beregning
Kør tilpassede workloads kompileret til compute capability 8.6 med omkring 35.4 TFLOPS single-precision-ydelse.
Er det den rigtige GPU til dig?
RTX 3090 passer til udviklere og forskere, der har brug for 24 GB VRAM til hukommelseskrævende opgaver på et forbrugersegment-kort fra Ampere-serien. Vælg en mindre GPU til letvægts-inferens, der kræver mindre hukommelse, eller opgrader til en workstation- eller datacenter-GPU, hvis dine modeller overstiger 24 GB VRAM eller kræver funktioner fra nyere arkitektur.
Sammenlign med lignende GPU'er
Ofte stillede spørgsmål
Er RTX 3090 egnet til LLM-inferens og finjustering?
Ja, dens 24 GB VRAM og omkring 805 GB/s hukommelsesbåndbredde gør den i stand til at køre og finjustere mange open-weight-sprogmodeller. Du kan starte vLLM-, Ollama- eller PyTorch/CUDA-skabeloner direkte på ONIE og komme i gang med det samme.
Hvordan sammenlignes RTX 3090 med mindre eller større GPU'er?
Med 24 GB VRAM kan RTX 3090 rumme betydeligt flere modelvægte og større batch-størrelser end forbrugerkort i lavere klasse. Hvis din workload dog kræver mere end 24 GB hukommelse eller mere end omkring 35.4 TFLOPS single-precision-beregning, bør du overveje en nyere generation eller en GPU i datacenter-segmentet.
Hvordan forbinder jeg mig til min RTX 3090-instans, og hvilken software er inkluderet?
Du kan forbinde dig direkte til din instans via SSH-adgang. ONIE leverer klar-til-brug-skabeloner til PyTorch/CUDA, vLLM, Ollama og ComfyUI, så du ikke selv behøver at konfigurere softwarestakken manuelt.
Hvordan fungerer fakturering for RTX 3090 på ONIE?
Instanser faktureres på timebasis. Du betaler kun for den tid, din GPU-instans er aktiv.
Lej RTX 3090 per time
Opret en konto, vælg en konfiguration og forbind via SSH. Faktureringen stopper, når du sletter GPU'en.
Lej RTX 3090