Nuomokite NVIDIA A100 PCIE GPU per valandą
NVIDIA A100 PCIE – duomenų centrams skirtas GPU, pagrįstas Ampere architektūra, turintis 40 GB VRAM ir 250 W galios sąnaudas. Jis užtikrina apie 15.6 TFLOPS standartinio slankiojo kablelio skaičiavimo našumą ir apie 1313 GB/s atminties pralaidumą, palaiko CUDA skaičiavimo galimybių versiją 8.0. Svetainėje ONIE šią aparatinę įrangą galite išsinuomoti mokėdami už valandas; gausite SSH prieigą ir paruoštus PyTorch/CUDA, vLLM, Ollama bei ComfyUI šablonus.
Specifikacijos
VRAM kiekvienam GPU
Architektūra
Compute capability
FP32 skaičiavimas
Atminties pralaidumas
Galios riba
Infrastruktūros teikėjo pateiktos reikšmės dabar siūlomoms mašinoms; tikrasis našumas skiriasi priklausomai nuo mašinos.
Turimos konfigūracijos
Aktualus prieinamumas ir kainos, atnaujinami nuolat. Galutinę kainą patvirtinsite prieš užsakymą.
Įkeliamos aktualios kainos…
Kam tinka A100 PCIE
Didelių kalbos modelių išvedimas
Pateikite kalbos modelius naudodami vLLM arba Ollama ir išnaudokite 40 GB VRAM talpą bei maždaug 1313 GB/s atminties pralaidumą žetonams generuoti.
Giliojo mokymosi modelių tikslinimas
Vykdykite mokymo ir tikslinimo užduotis naudodami PyTorch/CUDA, Ampere duomenų centrų architektūrą ir 8.0 skaičiavimo galimybių versiją.
Didelės raiškos vaizdų generavimas
Vykdykite sudėtingas difuzijos darbo eigas naudodami ComfyUI, kai reikia daugiau atminties, nei siūlo vartotojams skirtos vaizdo plokštės.
Moksliniai skaičiavimai ir darbas su duomenimis
Vykdykite daug atminties reikalaujančias simuliacijas ir duomenų analizės užduotis, pasitelkdami maždaug 15.6 TFLOPS skaičiavimo našumą.
Ar tai tinkamas GPU jums?
Rinkitės A100 PCIE 40 GB, jei Jūsų darbo krūviams nepakanka vartotojams skirtų GPU atminties ir reikia didelio pralaidumo duomenų centrų aparatinės įrangos. Lengviems išvedimo darbams rinkitės mažesnį vartotojams skirtą GPU, o jei nekvantifikuotiems modeliams ar paketams reikia daugiau nei 40 GB, rinkitės didesnės VRAM talpos duomenų centrų modelį.
Palyginti su panašiais GPU
Dažniausiai užduodami klausimai
Ar A100 PCIE tinka LLM išvedimui ir tikslinimui?
Taip. 40 GB VRAM ir maždaug 1313 GB/s atminties pralaidumas puikiai tinka vidutiniams ir dideliems modeliams, kurie netelpa į vartotojams skirtas vaizdo plokštes, talpinti ir tikslinti. Darbo krūvius galite greitai įdiegti naudodami iš anksto sukonfigūruotus vLLM, Ollama arba PyTorch/CUDA šablonus.
Kuo 40 GB A100 PCIE skiriasi nuo kitų GPU lygių?
Kaip duomenų centrams skirta Ampere vaizdo plokštė, ji užtikrina gerokai didesnį atminties pralaidumą ir VRAM talpą nei įprasti darbo stočių ar vartotojams skirti GPU. Jei Jūsų mokymo ar išvedimo procesams reikia dar daugiau atminties, apsvarstykite didesnį duomenų centrų GPU modelį.
Kaip prisijungti prie savo egzemplioriaus svetainėje ONIE ir jį sukonfigūruoti?
Kiekviena nuoma apima visą SSH prieigą, skirtą tiesiogiai valdyti komandinėje eilutėje. Taip pat galite paleisti egzempliorių su paruoštu PyTorch/CUDA, vLLM, Ollama arba ComfyUI šablonu ir iškart pradėti dirbti.
Kaip apmokestinama A100 PCIE nuoma?
Svetainėje ONIE už egzempliorius mokama už valandas, todėl mokate tik už laiką, kol veikia Jūsų duomenų centrų GPU.
Nuomokite A100 PCIE valandomis
Sukurkite paskyrą, pasirinkite konfigūraciją ir prisijunkite per SSH. Mokėjimas nutraukiamas, kai ištrinate GPU.
Nuomoti A100 PCIE