GPU Cloud · NVIDIA · Volta

Lloga GPU NVIDIA Tesla V100 per hora

La NVIDIA Tesla V100 és una GPU de centre de dades basada en l'arquitectura Volta, equipada amb 16 GB de VRAM d'alt ample de banda i un TDP de 300 W. Ofereix uns 12,5 TFLOPS de còmput en precisió simple i uns 780 GB/s d'ample de banda de memòria, cosa que la converteix en una opció fiable per a tasques de còmput científic i aprenentatge profund intensives en memòria. A ONIE, pots desplegar la Tesla V100 amb facturació per hores, accés SSH complet i plantilles preconfigurades.

Especificacions

VRAM per GPU

16 GB

Arquitectura

NVIDIA Volta

Capacitat de còmput

7.0

Còmput FP32

≈ 12.5 TFLOPS

Ample de banda de memòria

≈ 780 GB/s

Límit de potència

300 W

Valors informats pel proveïdor d'infraestructura per a les màquines que hi ha disponibles actualment; el rendiment real varia segons la màquina.

Configuracions disponibles

Estoc i preus en directe, actualitzats contínuament. El preu final es confirma abans de fer la comanda.

Carregant preus en directe…

Per a què serveix la Tesla V100

Inferència compacta de LLM

Serveix models de llenguatge quantitzats o més petits amb les plantilles d'Ollama o vLLM, aprofitant uns 780 GB/s d'ample de banda de memòria.

Prototipatge d'aprenentatge profund

Entrena i valida arquitectures de xarxes neuronals a PyTorch amb 16 GB de VRAM i capacitat de còmput 7.0.

Flux de treball de generació d'imatges

Executa pipelines de difusió i graves de generació personalitzats mitjançant plantilles de ComfyUI preinstal·lades.

Simulació i còmput científic

Executa càrregues de treball de centre de dades limitades per l'ample de banda que es beneficien de l'arquitectura Volta i de uns 12,5 TFLOPS de rendiment en precisió simple.

És la GPU adequada per a vostè?

La Tesla V100 de 16 GB és adequada per a investigadors i desenvolupadors que necessiten un ample de banda de memòria elevat per a models de mida petita o mitjana i càrregues de treball científiques, sense pagar per maquinari de centre de dades més nou. Si per al desenvolupament bàsic amb menys necessitats de memòria, tria una GPU de consum més petita; si els teus models superen els 16 GB o requereixen funcionalitats arquitectòniques de noves generacions més enllà de la capacitat de còmput 7.0, opta per una GPU de generació més recent amb més VRAM.

Compari amb GPU similars

GPUVRAM per GPUArquitecturaCòmput FP32Des de / horaDetalls
Tesla V10016 GBVolta≈ 12.5 TFLOPS—
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Detalls
RTX 306012 GBAmpere≈ 12 TFLOPS—Detalls
Titan Xp12 GBPascal≈ 11.7 TFLOPS—Detalls

Preguntes freqüents

La Tesla V100 de 16 GB és adequada per a la inferència i l'ajust fi de LLM?

Els 16 GB de VRAM i uns 780 GB/s d'ample de banda de memòria fan que la Tesla V100 sigui adequada per a la inferència de models de llenguatge més petits o quantitzats i per a l'ajust fi eficient en paràmetres. Per a models més grans que no càpiguen en 16 GB de memòria, cal seleccionar una GPU amb una capacitat de VRAM més elevada.

Quines plantilles de programari i mètodes de connexió hi ha disponibles a ONIE?

Cada instància de Tesla V100 inclou accés SSH directe per a la configuració personalitzada i els fluxos de treball des de la línia d'ordres. També pots iniciar plantilles preparades, com ara PyTorch/CUDA, vLLM, Ollama i ComfyUI, per començar a treballar de seguida.

Com afecta l'arquitectura Volta la compatibilitat amb els frameworks?

La Tesla V100 admet la capacitat de còmput 7.0 de CUDA, que és compatible amb frameworks d'aprenentatge profund estàndard com PyTorch. Tanmateix, les càrregues de treball que requereixin explícitament funcionalitats introduïdes en capacitats de còmput més noves necessitaran una arquitectura de GPU més recent.

Com funciona la facturació per llogar la Tesla V100?

ONIE aplica una facturació per hores senzilla a totes les llogueres de Tesla V100. Només pagues pel temps que la teva instància està activa, cosa que et permet executar experiments o treballs per lots i aturar el servidor quan acabis.

Llogui la Tesla V100 per hores

Crei un compte, triï una configuració i connecti's per SSH. La facturació s'atura quan elimini la GPU.

Llogar Tesla V100

Totes les GPU →