GPU Cloud · NVIDIA · Ampere

Īrējiet NVIDIA A800 PCIE GPU pa stundām

NVIDIA A800 PCIE ir Ampere arhitektūras datu centru GPU ar 80 GB VRAM. Tas nodrošina aptuveni 1598 GB/s atmiņas joslas platumu un aptuveni 15.6 TFLOPS vienas precizitātes veiktspēju, patērējot 300 W. Vietnē ONIE šo karti varat izvietot ar stundas tarifu, pilnu SSH piekļuvi un gatavām PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnēm.

Specifikācijas

VRAM katram GPU

80 GB

Arhitektūra

NVIDIA Ampere

Skaitļošanas spēja

8.0

FP32 skaitļošana

≈ 15.6 TFLOPS

Atmiņas joslas platums

≈ 1598 GB/s

Jaudas ierobežojums

300 W

Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.

Pieejamās konfigurācijas

Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.

Ielādē aktuālās cenas…

Kam ir piemērots A800 PCIE

Lielo valodas modeļu inferencēšana

Darbiniet lielos valodas modeļus pilnībā 80 GB VRAM atmiņā, izmantojot iepriekš konfigurētas vLLM vai Ollama veidnes.

Padziļinātā apmācība

Apmāciet un pielāgojiet modeļus ar lieliem pakešu izmēriem un gariem konteksta logiem PyTorch/CUDA vidē, nesaskaroties ar atmiņas ierobežojumiem.

Lielas caurlaidspējas pakešu apstrāde

Izmantojiet aptuveni 1598 GB/s atmiņas joslas platumu, lai apstrādātu datu ietilpīgas neironu tīklu slodzes un iegultņus.

Sarežģītas ģeneratīvās darbplūsmas

Darbiniet vairāku modeļu difūzijas konveijerus ComfyUI vidē, vienlaikus paturot atmiņā ielādētus vairākus kontrolpunktus.

Vai tas ir piemērots GPU Jums?

Izvēlieties A800 PCIE, ja Jums galvenokārt nepieciešama 80 GB atmiņas ietilpība liela mēroga AI modeļiem, nevis neapstrādāta vienas precizitātes skaitļošanas veiktspēja. Ja Jūsu slodzei pietiek ar mazāku atmiņu, piemērotāks būs GPU ar mazāku VRAM ietilpību — darbstacijas vai patērētāju klases modelis. Savukārt skaitļošanas jaudas ierobežotām slodzēm var būt piemērotas jaunākas paaudzes datu centru arhitektūras.

Salīdzināt ar līdzīgiem GPU

GPUVRAM katram GPUArhitektūraFP32 skaitļošanaNo / stundāSīkāk
A800 PCIE80 GBAmpere≈ 15.6 TFLOPS—
CMP 170HX64 GBAmpere≈ 12.1 TFLOPS—Sīkāk
A100 PCIE40 GBAmpere≈ 15.6 TFLOPS—Sīkāk
A100 SXM440 GBAmpere≈ 15.6 TFLOPS—Sīkāk

Biežāk uzdotie jautājumi

Vai NVIDIA A800 PCIE ir piemērots lielo valodas modeļu slodzēm?

Jā, 80 GB VRAM un aptuveni 1598 GB/s atmiņas joslas platums padara to par labu izvēli lielu valodas modeļu apkalpošanai un pielāgošanai, ja to ietilpība pārsniedz standarta patērētāju klases karšu iespējas. Tas atbalsta CUDA skaitļošanas iespēju 8.0, nodrošinot plašu saderību ar mūsdienu AI ietvariem.

Kā šis GPU salīdzināms ar mazākiem vai jaunākiem datu centru modeļiem?

A800 PCIE ar Ampere arhitektūru piedāvā milzīgu 80 GB atmiņas apjomu, tāpēc tas ir ideāli piemērots slodzēm, ko ierobežo atmiņa, salīdzinot ar kartēm ar mazāku ietilpību. Tomēr slodzes, kas galvenokārt balstās uz skaitļošanas jaudu, nevis atmiņas ietilpību, var darboties ātrāk jaunākas arhitektūras paaudzēs, jo vienas precizitātes veiktspēja ir aptuveni 15.6 TFLOPS.

Kā izveidot savienojumu ar A800 PCIE instanci un to konfigurēt?

Katra instance vietnē ONIE nodrošina tiešu SSH piekļuvi, lai Jūs varētu pilnībā pārvaldīt savu vidi. Varat arī nekavējoties sākt darbu, izmantojot gatavas PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnes.

Kā tiek aprēķināta A800 PCIE nomas maksa?

ONIE visām GPU instancēm izmanto vienkāršu stundas tarifu. Jūs maksājat tikai par laiku, kad instance ir aktīva, un varat pēc vajadzības pielāgot datu centra skaitļošanas resursu izmantošanu.

Nomājiet A800 PCIE pa stundām

Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.

Nomāt A800 PCIE

Visi GPU →