Pronájem GPU NVIDIA A40 po hodinách
NVIDIA A40 je datacentrová GPU postavená na architektuře Ampere s compute capability 8.6 a 45 GB VRAM. Na ONIE nabízí přibližně 29,9 TFLOPS jednoduché přesnosti a přibližně 536 GB/s propustnosti paměti v rámci tepelného návrhu 300 W. Můžete ji nasadit s fakturací za hodinu, plným přístupem přes SSH a připravenými šablonami včetně PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Specifikace
VRAM na GPU
Architektura
Výpočetní schopnost
Výpočetní výkon FP32
Propustnost paměti
Limit příkonu
Hodnoty uvedené poskytovatelem infrastruktury pro aktuálně nabízené stroje; skutečný výkon se mezi jednotlivými stroji liší.
Dostupné konfigurace
Aktuální dostupnost a ceny, průběžně aktualizované. Konečná cena je potvrzena před objednáním.
Načítání aktuálních cen…
K čemu se A40 hodí
Inference velkých jazykových modelů
Spouštějte modely vyžadující až 45 GB paměti pomocí předkonfigurovaných šablon vLLM nebo Ollama.
Dolaďování hlubokého učení
Dolaďujte neuronové sítě v PyTorch/CUDA s dostatkem VRAM pro větší batch size a váhy.
Generativní obrazové workflow
Provozujte složité difuzní pipeline a držte v paměti současně více checkpointů pomocí ComfyUI.
Datacentrové výpočetní úlohy
Využijte přibližně 29,9 TFLOPS výpočetního výkonu jednoduché přesnosti a přibližně 536 GB/s propustnosti paměti pro simulace a renderování.
Hodí se pro vás tato GPU?
Zvolte A40, pokud vaše úloha vyžaduje 45 GB VRAM na datacentrové architektuře Ampere, což přesahuje kapacity běžných spotřebitelských karet. Pokud se vaše modely vejdou do menší paměti, zvolte menší spotřebitelskou kartu. Pokud jsou vaše trénovací úlohy výrazně omezeny propustností paměti, přejděte na výkonnější datacentrovou GPU.
Porovnat s podobnými GPU
| GPU | VRAM na GPU | Architektura | Výpočetní výkon FP32 | Od / hodinu | Podrobnosti |
|---|---|---|---|---|---|
| A40 | 45 GB | Ampere | ≈ 29.9 TFLOPS | — | |
| RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | — | Podrobnosti |
| RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | — | Podrobnosti |
| RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je NVIDIA A40 vhodná pro inferenci a dolaďování LLM?
Ano, kapacita 45 GB VRAM dělá z A40 vhodnou volbu pro hostování středně velkých až velkých jazykových modelů a parameter-efficient dolaďování. Na ONIE můžete okamžitě spustit šablony vLLM, Ollama nebo PyTorch/CUDA a začít pracovat.
Jak si A40 vede ve srovnání s menšími spotřebitelskými nebo většími datacentrovými GPU?
A40 nabízí 45 GB VRAM, což poskytuje větší rezervu paměti než běžné spotřebitelské GPU u úloh omezených pamětí. Její propustnost paměti přibližně 536 GB/s je však nižší než u výkonnějších datacentrových GPU využívajících paměť HBM.
Jaká softwarová prostředí jsou pro A40 na ONIE k dispozici?
A40 podporuje CUDA compute capability 8.6 a lze ji nasadit s připravenými šablonami pro PyTorch/CUDA, vLLM, Ollama a ComfyUI. Plný přístup přes SSH je součástí služby, takže si softwarové vybavení můžete podle potřeby upravit.
Jak funguje fakturace instancí A40?
ONIE účtuje všechny pronájmy A40 za každou hodinu. Platíte pouze za dobu, kdy je instance aktivní, což je praktické jak pro krátké experimenty, tak pro delší produkční provoz.
Pronajměte si A40 po hodinách
Vytvořte si účet, vyberte konfiguraci a připojte se přes SSH. Účtování skončí, jakmile GPU smažete.
Pronajmout A40