Īrējiet NVIDIA A100 PCIE GPU pa stundām
NVIDIA A100 PCIE ir datu centru GPU, kas veidots, izmantojot Ampere arhitektūru, un aprīkots ar 40 GB VRAM un 250 W jaudas ierobežojumu. Tas nodrošina aptuveni 15,6 TFLOPS standarta peldošā komata aprēķinu veiktspēju un aptuveni 1313 GB/s atmiņas joslas platumu, kā arī atbalsta CUDA aprēķinu iespēju 8.0. Platformā ONIE varat nomāt šo aparatūru ar stundas norēķiniem, SSH piekļuvi un gatavām PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnēm.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots A100 PCIE
Lielo valodas modeļu inferenci
Darbiniet valodas modeļus, izmantojot vLLM vai Ollama, un tokenu ģenerēšanai izmantojiet 40 GB VRAM un aptuveni 1313 GB/s atmiņas joslas platumu.
Padziļināto modeļu pielāgošana
Veiciet apmācības un pielāgošanas uzdevumus, izmantojot PyTorch/CUDA Ampere datu centru arhitektūrā ar aprēķinu iespēju 8.0.
Augstas izšķirtspējas attēlu ģenerēšana
Izpildiet sarežģītas difūzijas darbplūsmas ComfyUI, kurām nepieciešams vairāk atmiņas, nekā nodrošina patērētāju videokartes.
Zinātniskie aprēķini un datu apstrāde
Apstrādājiet atmiņietilpīgas simulācijas un datu analītikas uzdevumus, izmantojot aptuveni 15,6 TFLOPS aprēķinu veiktspēju.
Vai tas ir piemērots GPU Jums?
Izvēlieties A100 PCIE 40 GB, ja Jūsu darba slodzes pārsniedz patērētāju GPU atmiņas ierobežojumus un tām nepieciešama datu centru aparatūra ar lielu joslas platumu. Vieglai inferenci izvēlieties mazāku patērētāju GPU, bet, ja Jūsu nekvantētie modeļi vai pakešu izmēri pārsniedz 40 GB, apsveriet datu centru modeli ar lielāku VRAM.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai A100 PCIE ir piemērots LLM inferenci un pielāgošanai?
Jā. 40 GB VRAM un aptuveni 1313 GB/s atmiņas joslas platums padara to piemērotu vidēja un liela izmēra modeļu darbināšanai un pielāgošanai, ja tie neietilpst patērētāju videokartēs. Darba slodzes varat ātri izvietot, izmantojot iepriekš konfigurētas vLLM, Ollama vai PyTorch/CUDA veidnes.
Kā A100 PCIE ar 40 GB atmiņu salīdzināms ar citu līmeņu GPU?
Kā datu centru Ampere videokarte tā piedāvā ievērojami lielāku atmiņas joslas platumu un VRAM nekā standarta darbstaciju vai patērētāju GPU. Ja Jūsu apmācības vai inferenču darbplūsmai nepieciešama vēl lielāka atmiņas ietilpība, apsveriet jaudīgāku datu centru GPU modeli.
Kā izveidot savienojumu ar savu instanci platformā ONIE un to konfigurēt?
Katrā nomā ir iekļauta pilna SSH piekļuve tiešai pārvaldībai komandrindā. Varat arī palaist instanci ar gatavām PyTorch/CUDA, vLLM, Ollama vai ComfyUI veidnēm un nekavējoties sākt darbu.
Kā tiek aprēķināta maksa par A100 PCIE nomu?
Instancēm platformā ONIE tiek piemēroti stundas norēķini, tāpēc maksājat tikai par laiku, kamēr Jūsu datu centru GPU ir aktīvs.
Nomājiet A100 PCIE pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt A100 PCIE