Prenájom GPU NVIDIA A40 po hodinách
NVIDIA A40 je datacentrálna GPU postavená na architektúre Ampere s compute capability 8.6 a 45 GB VRAM. Na ONIE poskytuje približne 29,9 TFLOPS jednoduchej presnosti a približne 536 GB/s šírky pásma pamäte v rámci 300 W spotreby. Môžete ju nasadiť s fakturáciou za hodinu, plným prístupom cez SSH a hotovými šablónami vrátane PyTorch/CUDA, vLLM, Ollama a ComfyUI.
Špecifikácie
VRAM na jedno GPU
Architektúra
Výpočtová schopnosť
Výpočtový výkon FP32
Šírka pásma pamäte
Limit príkonu
Hodnoty uvádza poskytovateľ infraštruktúry pre aktuálne ponúkané stroje; skutočný výkon sa môže podľa stroja líšiť.
Dostupné konfigurácie
Aktuálna dostupnosť a ceny, priebežne aktualizované. Konečná cena sa potvrdí pred objednávkou.
Načítavajú sa aktuálne ceny…
Na čo sa A40 hodí
Inferencia veľkých jazykových modelov
Spúšťajte modely vyžadujúce až 45 GB pamäte pomocou predkonfigurovaných šablón vLLM alebo Ollama.
Doladenie hlbokého učenia
Dolaďujte neurónové siete v PyTorch/CUDA s dostatočnou VRAM pre väčšie dávky a váhy.
Generatívne obrazové pracovné postupy
Spúšťajte zložité difúzne pipeline a držte viacero checkpointov v pamäti súčasne pomocou ComfyUI.
Úlohy datacentrálneho výpočtu
Využite približne 29,9 TFLOPS výkonu jednoduchej presnosti a približne 536 GB/s šírky pásma pamäte pre simulácie a renderovanie.
Je to pre vás správne GPU?
Vyberte A40, ak vaša záťaž vyžaduje 45 GB VRAM na datacentrálnej architektúre Ampere, čo prekračuje kapacity pamäte bežných spotrebiteľských kariet. Ak vaše modely vystačia s menšou pamäťou, zvoľte menšiu spotrebiteľskú kartu. Ak sú vaše tréningové úlohy výrazne limitované priepustnosťou pamäte, zvážte výkonnejšiu datacentrálnu GPU s vyššou šírkou pásma.
Porovnajte s podobnými GPU
| GPU | VRAM na jedno GPU | Architektúra | Výpočtový výkon FP32 | Od / hodina | Podrobnosti |
|---|---|---|---|---|---|
| A40 | 45 GB | Ampere | ≈ 29.9 TFLOPS | — | |
| RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | — | Podrobnosti |
| RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | — | Podrobnosti |
| RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | — | Podrobnosti |
Často kladené otázky
Je NVIDIA A40 vhodná na inferenciu a doladenie LLM?
Áno, kapacita 45 GB VRAM robí A40 vhodnou na hosťovanie stredne veľkých až veľkých jazykových modelov a na parameter-efektívne doladenie. Šablóny vLLM, Ollama alebo PyTorch/CUDA môžete spustiť priamo na ONIE a začať pracovať okamžite.
Ako sa A40 porovnáva s menšími spotrebiteľskými GPU alebo väčšími datacentrálnymi GPU?
A40 poskytuje 45 GB VRAM, čo vám dáva väčšiu rezervu pamäte než bežné spotrebiteľské GPU pri úlohách obmedzených pamäťou. Jej šírka pásma pamäte približne 536 GB/s je však nižšia než u vyšších datacentrálnych GPU, ktoré používajú pamäť HBM.
Aké softvérové prostredia sú dostupné pre A40 na ONIE?
A40 podporuje CUDA compute capability 8.6 a dá sa nasadiť s hotovými šablónami pre PyTorch/CUDA, vLLM, Ollama a ComfyUI. Plný prístup cez SSH je súčasťou ponuky, takže si softvérové vybavenie môžete podľa potreby prispôsobiť.
Ako funguje fakturácia pre inštancie A40?
ONIE používa pre všetky prenájmy A40 fakturáciu za hodinu. Platíte len za čas, počas ktorého je vaša inštancia aktívna, čo je praktické pri krátkych experimentoch aj dlhších produkčných behoch.
Prenajmite si A40 na hodiny
Vytvorte si účet, vyberte konfiguráciu a pripojte sa cez SSH. Fakturácia sa zastaví, keď GPU vymažete.
Prenajať A40