Nuomokite NVIDIA A40 GPU per valandą
NVIDIA A40 yra duomenų centrams skirtas GPU, sukurtas naudojant Ampere architektūrą, pasižymintis 8.6 skaičiavimo galimybe ir 45 GB VRAM. Naudojant ONIE, jis užtikrina apie 29.9 TFLOPS viengubo tikslumo našumą ir apie 536 GB/s atminties pralaidumą, sunaudodamas 300 W galios. Jį galite paleisti atsiskaitydami už kiekvieną valandą, su visateise SSH prieiga ir paruoštais šablonais, įskaitant PyTorch/CUDA, vLLM, Ollama ir ComfyUI.
Specifikacijos
VRAM kiekvienam GPU
Architektūra
Compute capability
FP32 skaičiavimas
Atminties pralaidumas
Galios riba
Infrastruktūros teikėjo pateiktos reikšmės dabar siūlomoms mašinoms; tikrasis našumas skiriasi priklausomai nuo mašinos.
Turimos konfigūracijos
Aktualus prieinamumas ir kainos, atnaujinami nuolat. Galutinę kainą patvirtinsite prieš užsakymą.
Įkeliamos aktualios kainos…
Kam tinka A40
Didelių kalbos modelių išvedimas
Paleiskite modelius, kuriems reikia iki 45 GB atminties, naudodami iš anksto sukonfigūruotus vLLM arba Ollama šablonus.
Giliojo mokymosi tikslinimas
Tikslinkite neuroninius tinklus naudodami PyTorch/CUDA – pakankamai VRAM leis naudoti didesnes paketų ir svorių apimtis.
Generatyvinio vaizdų kūrimo darbo eigos
Vykdykite sudėtingus difuzijos konvejerius ir vienu metu laikykite atmintyje kelis kontrolinius taškus naudodami ComfyUI.
Duomenų centrų skaičiavimo užduotys
Pasinaudokite maždaug 29.9 TFLOPS viengubo tikslumo skaičiavimo našumu ir maždaug 536 GB/s atminties pralaidumu simuliacijoms ir atvaizdavimo užduotims.
Ar tai tinkamas GPU jums?
Rinkitės A40, kai darbo krūviui reikia 45 GB VRAM duomenų centrų Ampere architektūroje – tai daugiau nei siūlo įprastos vartotojams skirtos kortos. Jei Jūsų modeliams pakanka mažiau atminties, rinkitės mažesnę vartotojams skirtą kortą, o jei mokymo užduotis itin riboja atminties pralaidumas, pereikite prie duomenų centrams skirto GPU su didesniu pralaidumu.
Palyginti su panašiais GPU
Dažniausiai užduodami klausimai
Ar NVIDIA A40 tinka LLM išvedimui ir tikslinimui?
Taip, 45 GB VRAM talpa puikiai tinka vidutinio ir didelio dydžio kalbos modeliams talpinti bei parametrų požiūriu efektyviam tikslinimui atlikti. Galite iškart pradėti darbą paleidę vLLM, Ollama arba PyTorch/CUDA šablonus tiesiogiai ONIE.
Kuo A40 skiriasi nuo mažesnių vartotojams skirtų GPU ar didesnių duomenų centrų GPU?
A40 turi 45 GB VRAM, todėl atminties pralaidumo ribojamoms užduotims suteikia daugiau atminties atsargos nei įprasti vartotojams skirti GPU. Tačiau jos maždaug 536 GB/s atminties pralaidumas yra mažesnis nei aukštesnės klasės duomenų centrų GPU, naudojančių HBM atmintį.
Kokios programinės įrangos aplinkos pasiekiamos A40 kortai platformoje ONIE?
A40 palaiko CUDA 8.6 skaičiavimo galimybę ir gali būti paleista naudojant paruoštus PyTorch/CUDA, vLLM, Ollama ir ComfyUI šablonus. Prieiga per SSH suteikiama su visomis teisėmis, todėl prireikus galite pritaikyti programinės įrangos rinkinį.
Kaip apmokestinamos A40 virtualiosios mašinos?
ONIE už visas A40 nuomas taiko valandinį apmokestinimą. Mokate tik už laiką, kai Jūsų virtualioji mašina veikia, todėl tai praktiška tiek trumpiems bandymams, tiek ilgesniems gamybiniams darbams.
Nuomokite A40 valandomis
Sukurkite paskyrą, pasirinkite konfigūraciją ir prisijunkite per SSH. Mokėjimas nutraukiamas, kai ištrinate GPU.
Nuomoti A40