Vuokraa NVIDIA A800 PCIE -GPU tunneittain
NVIDIA A800 PCIE on Ampere-arkkitehtuurin datakeskus-GPU, jossa on 80 GB VRAM-muistia. Se tarjoaa noin 1598 GB/s muistiväyläkaistan ja noin 15.6 TFLOPS:n yksittäistarkkuussuorituskyvyn 300 W:n tehorajoissa. Palvelussa ONIE voit ottaa tämän kortin käyttöön tuntiveloituksella, täydellä SSH-käytöllä sekä valmiilla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-malleilla.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin A800 PCIE soveltuu
Suurten kielimallien inferenssi
Aja suuria kielimalleja kokonaan 80 GB:n VRAM-puskurissa valmiiksi määritetyillä vLLM- tai Ollama-malleilla.
Syväoppimisen hienosäätö
Kouluta ja hienosäädä malleja suurilla eräkoilla ja pitkillä konteksti-ikkunoilla PyTorch/CUDA:ssa ilman muistipullonkauloja.
Suuren läpimenon eräkäsittely
Hyödynnä noin 1598 GB/s:n muistiväyläkaistaa dataintensiivisten neuroverkkotyökuormien ja upotusten käsittelyyn.
Monimutkaiset generatiiviset työnkulut
Aja monimallisia diffuusioputkia ComfyUI:ssa pitäen samalla useita tarkistuspisteitä ladattuina muistiin.
Onko tämä oikea GPU sinulle?
Valitse A800 PCIE, kun ensisijainen vaatimuksesi on 80 GB:n muistikapasiteetti suuren mittakaavan AI-malleille yksittäistarkkuuden raakalaskentatehon sijaan. Jos työkuormasi mahtuu pienempään muistitilaan, pienemmän VRAM-muistin työasema- tai kuluttaja-GPU on sopivampi. Laskentaan painottuvat tehtävät voivat puolestaan hyötyä uudempien sukupolvien datakeskusarkkitehtuureista.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Sopiiko NVIDIA A800 PCIE suurten kielimallien työkuormiin?
Kyllä, sen 80 GB VRAM-muistia ja noin 1598 GB/s:n muistiväyläkaista sopivat hyvin sellaisten suurten kielimallien tarjoiluun ja hienosäätöön, jotka ylittävät tavallisten kuluttajakorttien kapasiteetin. Se tukee CUDA-laskennan ominaisuustasoa 8.0, mikä takaa laajan yhteensopivuuden nykyaikaisten AI-kehysten kanssa.
Miten tämä GPU vertautuu pienempiin tai uudempiin datakeskusmalleihin?
A800 PCIE tarjoaa valtavan 80 GB:n muistialtaan Ampere-arkkitehtuurilla, joten se soveltuu pienemmän kapasiteetin kortteja paremmin muistisidonnaisiin tehtäviin. Sen noin 15.6 TFLOPS:n yksittäistarkkuussuorituskyvyn vuoksi työkuormat, jotka tukeutuvat vahvasti raakalaskentatehoon muistikapasiteetin sijaan, voivat kuitenkin toimia nopeammin uudempien arkkitehtuurisukupolvien malleilla.
Miten yhdistän A800 PCIE -instanssiini ja määritän sen?
Jokainen ONIE-instanssi sisältää suoran SSH-yhteyden, joten hallitset ympäristöäsi täysin. Voit myös käynnistää sen heti valmiilla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-malleilla.
Miten A800 PCIE:n vuokrauksen laskutus toimii?
ONIE käyttää selkeää tuntiveloitusta kaikille GPU-instansseille. Maksat vain ajasta, jolloin instanssisi on aktiivinen, joten voit skaalata datakeskuslaskennan käyttöä tarpeen mukaan.
Vuokraa A800 PCIE tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa A800 PCIE