GPU Cloud · NVIDIA · Ada Lovelace

Vuokraa NVIDIA RTX 4090 -GPU tunneittain

NVIDIA RTX 4090 on základě architektury Ada Lovelace je GPU spotřebitelského segmentu, které si lze pronajmout na ONIE. Nabízí 24 GB VRAM, přibližně 81,4 TFLOPS standardního výpočetního výkonu s plovoucí řádovou čárkou a propustnost paměti přibližně 879 GB/s. S CUDA compute capability 8.9 a profilem spotřeby 450 W zvládá náročné úlohy v oblasti AI a grafiky.

Tekniset tiedot

VRAM per GPU

24 GB

Arkkitehtuuri

NVIDIA Ada Lovelace

Laskentakyky

8.9

FP32-laskenta

≈ 81.4 TFLOPS

Muistin kaistanleveys

≈ 879 GB/s

Tehoraja

450 W

Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.

Saatavilla olevat kokoonpanot

Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.

Ladataan hintoja…

Mihin RTX 4090 soveltuu

Lokální inference LLM

Spouštějte kvantizované velké jazykové modely pomocí předkonfigurovaných šablon vLLM nebo Ollama v rámci kapacity 24 GB VRAM.

Generování obrazů a difúzní modely

Nasazujte workflow ComfyUI pro syntézu obrazů ve vysokém rozlišení s výpočetním výkonem architektury Ada Lovelace.

Prototypování hlubokého učení

Trénujte a dolaďujte střední neuronové sítě pomocí šablony PyTorch/CUDA s propustností paměti přibližně 879 GB/s.

Grafické renderování a simulace

Provádějte renderování s sledováním paprsků a fyzikální simulace s využitím výpočetního výkonu přibližně 81,4 TFLOPS.

Onko tämä oikea GPU sinulle?

Zvolte RTX 4090, když vaše úlohy vyžadují silný výpočetní výkon architektury Ada Lovelace a pohodlně se vejdou do 24 GB paměti. Pro lehkou inferenci, u které chcete snížit náklady, zvolte menší GPU spotřebitelského segmentu, nebo přejděte na pracovní stanici či datacentrové GPU, pokud trénujete modely vyžadující více než 24 GB VRAM.

Vertaa vastaaviin GPU:ihin

GPUVRAM per GPUArkkitehtuuriFP32-laskentaAlkaen / tuntiTiedot
RTX 409024 GBAda Lovelace≈ 81.4 TFLOPS—
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—Tiedot
RTX 509032 GBBlackwell≈ 107.6 TFLOPS—Tiedot
RTX 5090D32 GBBlackwell≈ 107.6 TFLOPS—Tiedot

Usein kysytyt kysymykset

Je RTX 4090 vhodná pro inferenci a dolaďování LLM?

Ano, 24 GB VRAM a propustnost paměti přibližně 879 GB/s ji činí vhodnou pro obsluhu malých až středních jazykových modelů a pro parametricky efektivní dolaďování. Pokud váhy modelu a kontextové okno přesáhnou 24 GB, budete potřebovat pracovní stanici nebo datacentrové GPU s větší kapacitou paměti.

Jak se připojím k instanci RTX 4090 a jaký software je součástí?

Ke své instanci se můžete připojit přímo přes přístup SSH. ONIE poskytuje připravené šablony včetně PyTorch/CUDA, vLLM, Ollama a ComfyUI, takže můžete okamžitě začít pracovat s CUDA compute capability 8.9.

Jak se RTX 4090 srovnává s pracovními stanicemi nebo datacentrovými GPU?

Jako karta spotřebitelského segmentu s tepelným návrhovým výkonem 450 W nabízí RTX 4090 vysokou výpočetní hustotu přibližně 81,4 TFLOPS. Je však omezena 24 GB VRAM, zatímco pracovní stanice a datacentrová GPU vyšší třídy nabízejí větší paměťové kapacity pro rozsáhlé datasety.

Jak funguje fakturace při pronájmu RTX 4090?

ONIE účtuje všechny pronájmy GPU za každou hodinu. Platíte pouze za dobu, po kterou je vaše instance aktivní.

Vuokraa RTX 4090 tunneittain

Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.

Vuokraa RTX 4090

Kaikki GPU:t →