Vuokraa NVIDIA A40 -GPU tunneittain
NVIDIA A40 on Ampere-arkkitehtuuriin perustuva datakeskus-GPU, jonka laskentakyky on 8.6 ja VRAM-muistia 45 GB. Palvelussa ONIE se tarjoaa noin 29.9 TFLOPS:n yksittäistarkkuuslaskentatehon ja noin 536 GB/s:n muistiväyläkaistan 300 W:n tehorajoissa. Voit ottaa sen käyttöön tuntiveloituksella, täydellä SSH-yhteydellä ja valmiilla malleilla, kuten PyTorch/CUDA, vLLM, Ollama ja ComfyUI.
Tekniset tiedot
VRAM per GPU
Arkkitehtuuri
Laskentakyky
FP32-laskenta
Muistin kaistanleveys
Tehoraja
Infrastruktuuripalveluntarjoajan ilmoittamat arvot tällä hetkellä listatuille koneille. Todellinen suorituskyky vaihtelee koneittain.
Saatavilla olevat kokoonpanot
Varastotiedot ja hinnat päivittyvät jatkuvasti. Lopullinen hinta vahvistetaan ennen tilaamista.
Ladataan hintoja…
Mihin A40 soveltuu
Suurten kielimallien inferenssi
Aja malleja, jotka tarvitsevat enintään 45 GB muistia, esikonfiguroiduilla vLLM- tai Ollama-malleilla.
Syväoppimisen hienosäätö
Hienosäädä neuroverkkoja PyTorch/CUDA-ympäristössä. Runsas VRAM mahdollistaa suuremmat eräkoot ja painot.
Generoivat kuvien työnkulut
Suorita monimutkaisia diffuusioputkia ja pidä useita tarkistuspisteitä muistissa samanaikaisesti ComfyUI:n avulla.
Datakeskuksen laskentatehtävät
Hyödynnä noin 29.9 TFLOPS:n yksittäistarkkuuslaskentatehoa ja noin 536 GB/s:n muistiväyläkaistaa simulointi- ja renderöintityökuormiin.
Onko tämä oikea GPU sinulle?
Valitse A40, kun työkuormasi tarvitsee 45 GB VRAM-muistia datakeskustason Ampere-arkkitehtuurissa, mikä ylittää tavallisten kuluttajakorttien muistikapasiteetin. Valitse pienempi kuluttajakortti, jos mallisi mahtuvat vähempään muistiin, tai siirry suuremman muistiväyläkaistan datakeskus-GPU:hun, jos koulutustyösi rajoittuvat merkittävästi muistin läpimenoon.
Vertaa vastaaviin GPU:ihin
Usein kysytyt kysymykset
Sopiiko NVIDIA A40 LLM-inferenssiin ja hienosäätöön?
Kyllä, 45 GB VRAM-muisti tekee A40:stä sopivan keskisuurten ja suurten kielimallien isännöintiin sekä parametritehokkaaseen hienosäätöön. Voit käynnistää vLLM-, Ollama- tai PyTorch/CUDA-malleja suoraan palvelussa ONIE ja aloittaa työskentelyn heti.
Miten A40 vertautuu pienempiin kuluttaja-GPU:ihin tai suurempiin datakeskus-GPU:ihin?
A40 tarjoaa 45 GB VRAM-muistia, joten muistirajoitteisiin työkuormiin jää enemmän muistikapasiteettia kuin tavallisilla kuluttaja-GPU:illa. Sen noin 536 GB/s:n muistiväyläkaista on kuitenkin pienempi kuin HBM-muistia käyttävillä korkeamman tason datakeskus-GPU:illa.
Mitä ohjelmistoympäristöjä A40:lle on saatavilla palvelussa ONIE?
A40 tukee CUDA-laskentakykyä 8.6, ja sen voi ottaa käyttöön valmiilla PyTorch/CUDA-, vLLM-, Ollama- ja ComfyUI-malleilla. Täysi SSH-yhteys sisältyy palveluun, joten voit mukauttaa ohjelmistopinon tarpeidesi mukaan.
Miten A40-instanssien laskutus toimii?
ONIE käyttää tuntiveloitusta kaikissa A40-vuokrauksissa. Maksat vain ajasta, jolloin instanssisi on aktiivinen, joten se sopii sekä lyhyisiin kokeiluihin että pidempiin tuotantoajoihin.
Vuokraa A40 tunneittain
Luo tili, valitse kokoonpano ja yhdistä SSH:n kautta. Laskutus päättyy, kun poistat GPU:n.
Vuokraa A40