Lloga GPU NVIDIA A100 PCIE per hora
La NVIDIA A100 PCIE és una GPU per a centres de dades basada en l’arquitectura Ampere, equipada amb 40 GB de VRAM i un consum de 250 W. Ofereix aproximadament 15.6 TFLOPS de càlcul estàndard en coma flotant i uns 1313 GB/s d’amplada de banda de memòria, amb suport per a la capacitat de càlcul CUDA 8.0. A ONIE, pot llogar aquest maquinari amb facturació per hora, accés SSH i plantilles preparades per a PyTorch/CUDA, vLLM, Ollama i ComfyUI.
Especificacions
VRAM per GPU
Arquitectura
Capacitat de còmput
Còmput FP32
Ample de banda de memòria
Límit de potència
Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.
Configuracions disponibles
Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.
Carregant preus en directe…
Per a què serveix la A100 PCIE
Inferència de models de llenguatge grans
Serveixi models de llenguatge amb vLLM o Ollama, aprofitant els 40 GB de VRAM i uns 1313 GB/s d’amplada de banda de memòria per generar tokens.
Afinament de models d’aprenentatge profund
Executi tasques d’entrenament i afinament amb PyTorch/CUDA en una arquitectura Ampere per a centres de dades, amb capacitat de càlcul 8.0.
Generació d’imatges d’alta resolució
Executi fluxos de treball de difusió complexos a ComfyUI que requereixen més memòria de la que ofereixen les targetes de consum.
Càlcul científic i de dades
Processi simulacions amb un ús intensiu de memòria i tasques d’anàlisi de dades aprofitant uns 15.6 TFLOPS de rendiment de càlcul.
És la GPU adequada per a vostè?
Triï l’A100 PCIE de 40 GB si les seves càrregues de treball superen els límits de memòria de les GPU de consum i requereixen maquinari per a centres de dades amb una amplada de banda elevada. Opti per una GPU de consum més petita per a inferències lleugeres, o passi a un model per a centres de dades amb més VRAM si els seus models sense quantificar o les mides dels lots superen els 40 GB.
Compari amb GPU similars
Preguntes freqüents
L’A100 PCIE és adequada per a la inferència i l’afinament de LLM?
Sí. Els seus 40 GB de VRAM i uns 1313 GB/s d’amplada de banda de memòria la fan molt adequada per allotjar i afinar models mitjans i grans que no caben en targetes de consum. Pot desplegar càrregues de treball ràpidament amb plantilles preconfigurades de vLLM, Ollama o PyTorch/CUDA.
Com es compara l’A100 PCIE de 40 GB amb altres categories de GPU?
Com a targeta Ampere per a centres de dades, ofereix molta més amplada de banda de memòria i VRAM que les GPU estàndard d’estació de treball o de consum. Si la seva canalització d’entrenament o inferència requereix encara més capacitat de memòria, li convé considerar una variant de GPU per a centres de dades de més capacitat.
Com em connecto a la meva instància a ONIE i la configuro?
Tots els lloguers inclouen accés SSH complet per gestionar directament la línia d’ordres. També pot iniciar la instància amb plantilles preparades per a PyTorch/CUDA, vLLM, Ollama o ComfyUI i començar a treballar de seguida.
Com funciona la facturació de l’A100 PCIE?
Les instàncies a ONIE es facturen per hora, de manera que només paga pel temps que la GPU per a centres de dades està activa.
Llogui la A100 PCIE per hores
Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.
Llogar A100 PCIE