Īrējiet NVIDIA L40S GPU pa stundām
NVIDIA L40S ir Ada Lovelace datu centra GPU, ko var nomāt mākonī vietnē ONIE. Tas piedāvā 45 GB VRAM, aptuveni 73.3 TFLOPS vienas precizitātes skaitļošanas jaudu un aptuveni 626 GB/s atmiņas joslas platumu, patērējot 350 W. Šis GPU atbalsta CUDA skaitļošanas iespēju 8.9 un ar stundas norēķiniem nodrošina jaudu prasīgiem AI apmācības, secināšanas un grafikas uzdevumiem.
Specifikācijas
VRAM katram GPU
Arhitektūra
Skaitļošanas spēja
FP32 skaitļošana
Atmiņas joslas platums
Jaudas ierobežojums
Vērtības, ko par pašlaik piedāvātajiem serveriem norādījis infrastruktūras nodrošinātājs; reālā veiktspēja dažādos serveros var atšķirties.
Pieejamās konfigurācijas
Aktuālie krājumi un cenas, kas tiek atjaunotas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Ielādē aktuālās cenas…
Kam ir piemērots L40S
Lielo valodu modeļu secināšana
Izvietojiet kvantizētus vai pilnas precizitātes valodu modeļus, izmantojot gatavas veidnes, piemēram, vLLM un Ollama, 45 GB atmiņas ietvaros.
Ģeneratīvās attēlu apstrādes darbplūsmas
Palaidiet sarežģītas difūzijas konveijera darbplūsmas un pakešu ģenerēšanas uzdevumus ComfyUI, izmantojot Ada Lovelace arhitektūru.
Padziļinātā apmācība un pielāgošana
Pielāgojiet neironu tīklus un LoRA adapterus PyTorch/CUDA vidēs, izmantojot aptuveni 73.3 TFLOPS skaitļošanas jaudu.
Datu centra grafika un renderēšana
Veiciet renderēšanas un simulācijas uzdevumus bez grafiskā interfeisa, izmantojot datu centra GPU ar aptuveni 626 GB/s atmiņas joslas platumu.
Vai tas ir piemērots GPU Jums?
Izvēlieties L40S, ja jūsu darba slodzei nepieciešami 45 GB VRAM un datu centra uzticamība, kas pārsniedz standarta patērētāju videokaršu iespējas. Ja modeļi ietilpst mazākā atmiņā, izdevīgāka izvēle ir mazāka darbstaciju vai patērētāju GPU, savukārt ļoti lieliem, nekvantizētiem pamatmodeļiem piemērotāks būs datu centra GPU ar lielāku atmiņu.
Salīdzināt ar līdzīgiem GPU
Biežāk uzdotie jautājumi
Vai NVIDIA L40S ir piemērots LLM secināšanai un pielāgošanai?
Jā, ar 45 GB VRAM un CUDA skaitļošanas iespēju 8.9 L40S ir labi piemērots vidēju un lielu valodu modeļu apkalpošanai un parametru ziņā efektīvai pielāgošanai. Varat palaist instances ar iepriekš konfigurētām vLLM, Ollama vai PyTorch/CUDA veidnēm.
Kā L40S atšķiras no patērētāju GPU vai jaudīgākiem datu centra GPU?
L40S piedāvā vairāk VRAM nekā standarta patērētāju Ada Lovelace kartes, tāpēc tajā var ievietot lielākus modeļu svarus, tos nepārvietojot uz citu atmiņu. Tomēr tai ir mazāks atmiņas joslas platums nekā datu centra GPU, kas paredzēti intensīviem skaitļošanas uzdevumiem ar lielu atmiņas apjomu; tie ir piemērotāki apjomīgām, no atmiņas joslas platuma atkarīgām apmācības slodzēm.
Kā vietnē ONIE izveidot savienojumu ar savu L40S instanci un to konfigurēt?
Tiklīdz instance tiek palaista, Jums ir pilna SSH piekļuve savai videi. Varat arī izvēlēties gatavas veidnes, tostarp PyTorch/CUDA, ComfyUI, vLLM un Ollama, lai nekavējoties sāktu darbu.
Kā tiek aprēķināta maksa par L40S izmantošanu?
ONIE par visām L40S nomām piemēro stundas norēķinus. Jūs maksājat tikai par laiku, kurā instance ir piešķirta.
Nomājiet L40S pa stundām
Izveidojiet kontu, izvēlieties konfigurāciju un pieslēdzieties caur SSH. Norēķini tiek pārtraukti, kad dzēšat GPU.
Nomāt L40S