Nuomokite NVIDIA A100 SXM4 GPU per valandą
NVIDIA A100 SXM4 yra „Ampere“ architektūros duomenų centrų GPU, turintis 40 GB VRAM ir 400 W galios ribą. Jis užtikrina maždaug 1313 GB/s atminties pralaidumą ir maždaug 15,6 TFLOPS viengubo tikslumo skaičiavimų našumą, kai skaičiavimo galimybė yra 8.0. Išsinuomokite jį ONIE platformoje su valandiniu atsiskaitymu, tiesiogine SSH prieiga ir paruoštais šablonais, įskaitant PyTorch/CUDA, vLLM, Ollama ir ComfyUI.
Specifikacijos
VRAM kiekvienam GPU
Architektūra
Compute capability
FP32 skaičiavimas
Atminties pralaidumas
Galios riba
Infrastruktūros teikėjo pateiktos reikšmės dabar siūlomoms mašinoms; tikrasis našumas skiriasi priklausomai nuo mašinos.
Turimos konfigūracijos
Aktualus prieinamumas ir kainos, atnaujinami nuolat. Galutinę kainą patvirtinsite prieš užsakymą.
Įkeliamos aktualios kainos…
Kam tinka A100 SXM4
LLM išvedimas ir pateikimas
Vykdykite kalbos modelius, telpančius į 40 GB VRAM, naudodami iš anksto sukonfigūruotus vLLM arba Ollama šablonus ir pasinaudokite dideliu atminties pralaidumu.
Giliojo mokymosi modelių mokymas
Mokykite ir tiksliai pritaikykite neuroninius tinklus naudodami PyTorch/CUDA „Ampere“ architektūros duomenų centrų GPU su maždaug 1313 GB/s atminties pralaidumu.
Paketinis vaizdų generavimas
Generuokite didelės raiškos difuzijos rezultatus ir vykdykite sudėtingas darbo eigas naudodami ComfyUI, neatsitrenkdami į vartotojams skirtų GPU atminties ribas.
Moksliniai skaičiavimai
Vykdykite daug atminties reikalaujančias simuliacijas ir duomenų apdorojimo užduotis, kurioms naudinga 8.0 skaičiavimo galimybė ir SXM4 formos faktoriaus galios riba.
Ar tai tinkamas GPU jums?
Rinkitės 40 GB A100 SXM4, jei mokymo ar išvedimo užduotims reikia daugiau atminties, nei gali pasiūlyti vartotojams skirti GPU, ir svarbus duomenų centrų lygio atminties pralaidumas. Jei nesukvantinti modeliai viršija 40 GB, rinkitės duomenų centrų GPU su didesne VRAM; lengvesniam išvedimui ir kūrimui tiks mažesnė darbo stotims arba vartotojams skirta plokštė.
Palyginti su panašiais GPU
Dažniausiai užduodami klausimai
Ar 40 GB A100 SXM4 tinka LLM išvedimui ir tiksliam pritaikymui?
Taip. 40 GB VRAM ir maždaug 1313 GB/s atminties pralaidumas puikiai tinka vidutinio dydžio kalbos modeliams pateikti ir efektyviai tiksliai pritaikyti, keičiant nedaug parametrų. Modelius galite greitai įdiegti naudodami pateiktus vLLM, Ollama arba PyTorch/CUDA šablonus.
Kuo šis 40 GB SXM4 modelis skiriasi nuo kitų duomenų centrų GPU?
SXM4 versijos šiluminės galios riba yra 400 W. Ji užtikrina stabilų duomenų centrų lygio našumą „Ampere“ architektūroje su 8.0 skaičiavimo galimybe. Jei užduočiai reikia daugiau nei 40 GB atminties, kad nereikėtų skaidyti modelio, rinkitės didesnės talpos „Ampere“ arba naujesnės kartos duomenų centrų GPU.
Kaip atsiskaitoma už A100 SXM4 nuomą ONIE platformoje?
Kol nuoma aktyvi, už egzempliorius atsiskaitoma valandiniu tarifu. Taip galite vykdyti intensyvias mokymo ar paketinio išvedimo užduotis ir jas baigę išjungti egzempliorių.
Kaip prisijungti prie A100 SXM4 egzemplioriaus ir jį paruošti?
Gaunate tiesioginę SSH prieigą prie kompiuterio ir paruoštus naudoti PyTorch/CUDA, vLLM, Ollama bei ComfyUI šablonus. Paleisdami tiesiog pasirinkite norimą šabloną ir iškart pradėkite darbą.
Nuomokite A100 SXM4 valandomis
Sukurkite paskyrą, pasirinkite konfigūraciją ir prisijunkite per SSH. Mokėjimas nutraukiamas, kai ištrinate GPU.
Nuomoti A100 SXM4