NVIDIA A40 GPU bérlése óránként
Az NVIDIA A40 egy adatközponti GPU, amely Ampere architektúrán alapul, számítási képessége 8.6, VRAM-ja pedig 45 GB. Az ONIE platformon körülbelül 29,9 TFLOPS egyszeres pontosságú teljesítményt és körülbelül 536 GB/s memória-sávszélességet nyújt 300 W-os teljesítménykeretben. Órás elszámolással, teljes SSH-hozzáféréssel és kész sablonokkal indíthatja, többek között PyTorch/CUDA, vLLM, Ollama és ComfyUI sablonokkal.
Műszaki adatok
VRAM GPU-nként
Architektúra
Számítási képesség
FP32 számítási teljesítmény
Memória-sávszélesség
Teljesítménykorlát
A szolgáltató által az aktuálisan kínált gépekhez megadott értékek; a tényleges teljesítmény gépenként eltérő lehet.
Elérhető konfigurációk
Élő készletadatok és árak, folyamatosan frissítve. A végleges árat a rendelés előtt megerősítjük.
Élő árak betöltése…
Mire való a A40
Nagy nyelvi modellek következtetése
Futtassa a legfeljebb 45 GB memóriát igénylő modelleket előre konfigurált vLLM- vagy Ollama-sablonok segítségével.
Mélytanulási finomhangolás
Hangolja finomra a neurális hálózatokat PyTorch/CUDA környezetben, a bőséges VRAM-nak köszönhetően nagyobb batch-méretekkel és súlyokkal.
Generatív képmunkafolyamatok
Futtasson összetett diffúziós folyamatokat, és tartson egyszerre több checkpointot memóriában a ComfyUI segítségével.
Adatközponti számítási feladatok
Használja ki a körülbelül 29,9 TFLOPS egyszeres pontosságú számítási teljesítményt és a körülbelül 536 GB/s memória-sávszélességet szimulációs és renderelési feladatokhoz.
Ez a megfelelő GPU Önnek?
Válassza az A40-et, ha a munkafolyamata 45 GB VRAM-ot igényel egy adatközponti Ampere architektúrán, ami meghaladja a szokásos fogyasztói memóriakapacitásokat. Válasszon kisebb fogyasztói kártyát, ha modelljei kevesebb memóriában is elférnek, vagy lépjen egy nagyobb sávszélességű adatközponti GPU-ra, ha a tanítási feladatait erősen korlátozza a memória-átviteli sebesség.
Összehasonlítás hasonló GPU-kkal
Gyakori kérdések
Alkalmas-e az NVIDIA A40 LLM-következtetésre és finomhangolásra?
Igen, a 45 GB-os VRAM-kapacitás miatt az A40 jól alkalmas közepes és nagy nyelvi modellek futtatására, valamint paraméterhatékony finomhangolásra. Az ONIE platformon közvetlenül indíthat vLLM-, Ollama- vagy PyTorch/CUDA-sablonokat, és azonnal elkezdheti a munkát.
Hogyan viszonyul az A40 a kisebb fogyasztói GPU-khoz vagy a nagyobb adatközponti GPU-khoz?
Az A40 45 GB VRAM-ot kínál, így a memóriaigényes feladatokhoz több memóriatartalékot biztosít, mint a szokásos fogyasztói GPU-k. Memória-sávszélessége azonban, körülbelül 536 GB/s, alacsonyabb, mint a HBM memóriát használó, magasabb kategóriás adatközponti GPU-ké.
Milyen szoftverkörnyezetek érhetők el az A40-hez az ONIE platformon?
Az A40 támogatja a CUDA 8.6-os számítási képességet, és kész sablonokkal telepíthető PyTorch/CUDA, vLLM, Ollama és ComfyUI környezetekhez. Teljes SSH-hozzáférés is jár hozzá, így szükség szerint testreszabhatja a szoftveres környezetet.
Hogyan működik az elszámolás az A40-es példányoknál?
Az ONIE minden A40-bérlésnél órás elszámolást alkalmaz. Csak arra az időre fizet, amíg a példány aktív, így rövid kísérletekhez és hosszabb éles futtatásokhoz egyaránt praktikus.
Bérelje a A40-t óránkénti díjszabással
Hozzon létre fiókot, válasszon konfigurációt, majd csatlakozzon SSH-n keresztül. A számlázás a GPU törlésekor megszűnik.
A40 bérlése