Īrējiet NVIDIA A100 SXM4 GPU pa stundām
NVIDIA A100 SXM4 ir datu centru GPU ar Ampere arhitektūru, 40 GB VRAM un 400 W jaudas robežu. Tas nodrošina aptuveni 1313 GB/s atmiņas joslas platumu un aptuveni 15,6 TFLOPS vienkāršās precizitātes skaitļošanas veiktspēju, izmantojot 8.0 skaitļošanas iespējas. Nomājiet to vietnē ONIE, maksājot par katru stundu, ar tiešu SSH piekļuvi un gatavām veidnēm, tostarp PyTorch/CUDA, vLLM, Ollama un ComfyUI.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots A100 SXM4
LLM inferēšana un apkalpošana
Darbiniet valodu modeļus, kas ietilpst 40 GB VRAM, izmantojot iepriekš konfigurētas vLLM vai Ollama veidnes ar lielu atmiņas joslas platumu.
Padziļinātās mācīšanās apmācība
Apmāciet un pielāgojiet neironu tīklus ar PyTorch/CUDA, izmantojot Ampere datu centru arhitektūru ar aptuveni 1313 GB/s atmiņas joslas platumu.
Attēlu pakešu ģenerēšana
Ģenerējiet augstas izšķirtspējas difūzijas rezultātus un izpildiet sarežģītas darbplūsmas ComfyUI, nepārsniedzot patērētāju klases GPU atmiņas ierobežojumus.
Zinātniskie aprēķini
Izpildiet atmiņietilpīgas simulācijas un datu apstrādes uzdevumus, kuriem noder 8.0 skaitļošanas iespējas un SXM4 formas faktora jaudas ierobežojumi.
Vai tas ir piemērots GPU Jums?
Izvēlieties 40 GB A100 SXM4, ja apmācības vai inferēšanas uzdevumi pārsniedz patērētāju GPU atmiņas ierobežojumus un tiem nepieciešams datu centru atmiņas joslas platums. Izvēlieties datu centru GPU ar lielāku VRAM, ja Jūsu nekvantizētie modeļi pārsniedz 40 GB, vai arī mazāku darbstacijas vai patērētāju klases karti vieglai inferēšanai un izstrādei.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai 40 GB A100 SXM4 ir piemērots LLM inferēšanai un pielāgošanai?
Jā, 40 GB VRAM un aptuveni 1313 GB/s atmiņas joslas platums padara to labi piemērotu vidēja izmēra valodu modeļu apkalpošanai un parametru ziņā efektīvai pielāgošanai. Varat ātri izvietot modeļus, izmantojot piedāvātās vLLM, Ollama vai PyTorch/CUDA veidnes.
Kā šis 40 GB SXM4 modelis salīdzināms ar citiem datu centru GPU?
SXM4 varianta projektētā termiskā jauda ir 400 W, un tas nodrošina ilgstošu datu centru veiktspēju ar Ampere arhitektūru un 8.0 skaitļošanas iespējām. Ja Jūsu uzdevumam nepieciešams vairāk nekā 40 GB atmiņas, lai izvairītos no modeļa sadalīšanas, apsveriet jaudīgāku Ampere vai jaunākas paaudzes datu centru GPU.
Kā tiek aprēķināta maksa par A100 SXM4 vietnē ONIE?
Maksa par instancēm tiek aprēķināta par katru stundu, kamēr noma ir aktīva. Tādējādi varat izpildīt intensīvus apmācības vai pakešu inferēšanas uzdevumus un pēc to pabeigšanas pārtraukt instances darbību.
Kā izveidot savienojumu ar savu A100 SXM4 instanci un to iestatīt?
Jums ir tieša SSH piekļuve iekārtai, kā arī gatavas PyTorch/CUDA, vLLM, Ollama un ComfyUI veidnes. Lai nekavējoties sāktu darbu, palaišanas laikā vienkārši atlasiet vēlamo veidni.
Nomājiet A100 SXM4 pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt A100 SXM4