GPU Cloud · NVIDIA · Ampere

Pronájem GPU NVIDIA RTX 3090 po hodinách

NVIDIA RTX 3090 je spotřebitelská GPU s architekturou Ampere, 24 GB VRAM a výpočetní schopností (compute capability) 8.6. Nabízí přibližně 35,4 TFLOPS standardního výpočetního výkonu v jednoduché přesnosti (single-precision) a přibližně 805 GB/s šířky pásma paměti při jmenovitém příkonu 350 W. Tuto GPU si můžete na ONIE pronajmout s fakturací za hodinu, plným přístupem přes SSH a připravenými šablonami pro PyTorch/CUDA, vLLM, Ollama a ComfyUI.

Specifikace

VRAM na GPU

24 GB

Architektura

NVIDIA Ampere

Výpočetní schopnost

8.6

Výpočetní výkon FP32

≈ 35.4 TFLOPS

Propustnost paměti

≈ 805 GB/s

Limit příkonu

350 W

Hodnoty uvedené poskytovatelem infrastruktury pro aktuálně nabízené stroje; skutečný výkon se mezi jednotlivými stroji liší.

Dostupné konfigurace

Aktuální dostupnost a ceny, průběžně aktualizované. Konečná cena je potvrzena před objednáním.

Načítání aktuálních cen…

K čemu se RTX 3090 hodí

Inference LLM v lokálním měřítku

Spouštějte kvantizované nebo středně velké jazykové modely v 24 GB VRAM pomocí předkonfigurovaných šablon vLLM nebo Ollama.

Pracovní postupy pro generování obrázků

Nasaďte ComfyUI pro generování obrázků ve vysokém rozlišení a spouštění vlastních difuzních pipeline bez narážení na limity paměti běžných spotřebitelských karet.

Doladění a trénování modelů

Použijte šablonu PyTorch/CUDA k doladění neuronových sítí, které se vejdou do 24 GB paměti, a využijte přibližně 805 GB/s šířky pásma paměti.

Obecné výpočty v CUDA

Spouštějte vlastní úlohy zkompilované pro výpočetní schopnost 8.6 s výkonem přibližně 35,4 TFLOPS v jednoduché přesnosti.

Hodí se pro vás tato GPU?

RTX 3090 je vhodná pro vývojáře a výzkumníky, kteří na spotřebitelské kartě s architekturou Ampere potřebují 24 GB VRAM pro paměťově náročné úlohy. Pro lehkou inferenci s menšími paměťovými nároky zvolte menší GPU. Pokud vaše modely přesáhnou 24 GB VRAM nebo vyžadují funkce novější architektury, přejděte na pracovní nebo datacentrovou GPU.

Porovnat s podobnými GPU

GPUVRAM na GPUArchitekturaVýpočetní výkon FP32Od / hodinuPodrobnosti
RTX 309024 GBAmpere≈ 35.4 TFLOPS—
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—Podrobnosti
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—Podrobnosti
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—Podrobnosti

Často kladené otázky

Je RTX 3090 vhodná pro inferenci a doladění LLM?

Ano. Díky 24 GB VRAM a přibližně 805 GB/s šířky pásma paměti zvládne spouštět a doladit mnoho jazykových modelů s otevřenými vahami. Na ONIE můžete okamžitě začít pracovat spuštěním šablon vLLM, Ollama nebo PyTorch/CUDA.

Jak se RTX 3090 srovnává s menšími nebo většími GPU?

S 24 GB VRAM pojme RTX 3090 výrazně více vah modelů a větší dávky než levnější spotřebitelské karty. Pokud vaše úloha vyžaduje více než 24 GB paměti nebo více než přibližně 35,4 TFLOPS výpočetního výkonu v jednoduché přesnosti, zvažte novější generaci nebo datacentrovou GPU.

Jak se připojím k instanci RTX 3090 a jaký software je součástí?

K instanci se můžete připojit přímo přes SSH. ONIE poskytuje připravené šablony pro PyTorch/CUDA, vLLM, Ollama a ComfyUI, takže nemusíte softwarové prostředí konfigurovat ručně.

Jak funguje fakturace RTX 3090 na ONIE?

Instance jsou účtovány po hodinách. Platíte pouze za dobu, kdy je vaše GPU instance aktivní.

Pronajměte si RTX 3090 po hodinách

Vytvořte si účet, vyberte konfiguraci a připojte se přes SSH. Účtování skončí, jakmile GPU smažete.

Pronajmout RTX 3090

Všechna GPU →