ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA Tesla P40 GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA Tesla P40 ਇੱਕ Pascal ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ ਡੇਟਾਸੈਂਟਰ GPU ਹੈ ਜਿਸ ਵਿੱਚ 24 GB VRAM ਅਤੇ compute capability 6.1 ਹੈ। ਇਹ 250 W ਥਰਮਲ ਸੀਮਾ ਦੇ ਅੰਦਰ ਲਗਭਗ 9.4 TFLOPS single-precision compute ਅਤੇ ਲਗਭਗ 257 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ONIE 'ਤੇ, ਤੁਸੀਂ ਇਸ GPU ਨੂੰ ਪ੍ਰਤੀ-ਘੰਟਾ ਬਿਲਿੰਗ, SSH ਪਹੁੰਚ, ਅਤੇ PyTorch/CUDA, vLLM, Ollama, ਅਤੇ ComfyUI ਲਈ ਪਹਿਲਾਂ ਤੋਂ ਸੰਰਚਿਤ ਟੈਂਪਲੇਟਾਂ ਨਾਲ ਕਿਰਾਏ 'ਤੇ ਲੈ ਸਕਦੇ ਹੋ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
Tesla P40 ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
Quantized LLM ਇਨਫਰੈਂਸ
Ollama ਜਾਂ vLLM ਵਰਗੇ ਤਿਆਰ ਟੈਂਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ 24 GB ਤੱਕ ਮੈਮੋਰੀ ਦੀ ਲੋੜ ਵਾਲੇ ਲੋਕਲ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਓ।
ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਵਰਕਫਲੋ
ComfyUI ਪਾਈਪਲਾਈਨਾਂ ਹੋਸਟ ਕਰੋ ਜੋ ਕਈ checkpoints ਅਤੇ control nets ਲੋਡ ਕਰਨ ਲਈ ਭਰਪੂਰ VRAM ਸਮਰੱਥਾ ਤੋਂ ਲਾਭ ਉਠਾਉਂਦੀਆਂ ਹਨ।
Legacy CUDA ਡਿਵੈਲਪਮੈਂਟ
Pascal ਆਰਕੀਟੈਕਚਰ ਅਤੇ compute capability 6.1 ਲਈ PyTorch/CUDA ਐਪਲੀਕੇਸ਼ਨਾਂ ਬਣਾਓ, ਟੈਸਟ ਕਰੋ ਅਤੇ ਸੰਭਾਲੋ।
ਮੈਮੋਰੀ-ਬਾਊਂਡ ਬੈਚ ਪ੍ਰੋਸੈਸਿੰਗ
ਡੇਟਾਸੈਂਟਰ ਵਰਕਲੋਡ ਚਲਾਓ ਜੋ ਕੱਚੀ ਕੰਪਿਊਟ ਗਤੀ ਨਾਲੋਂ 24 GB VRAM ਵਿੱਚ ਵੱਡੇ ਡੇਟਾਸੈੱਟ ਫਿੱਟ ਕਰਨ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦੇ ਹਨ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
ਜੇ ਤੁਹਾਡੀ ਮੁੱਖ ਲੋੜ ਮੈਮੋਰੀ-ਭੁੱਖੇ ਇਨਫਰੈਂਸ ਜਾਂ ਡਿਵੈਲਪਮੈਂਟ ਕਾਰਜਾਂ ਲਈ 24 GB VRAM ਹੈ ਅਤੇ ਪੁਰਾਣੀ Pascal ਕੰਪਿਊਟ ਕਾਫ਼ੀ ਹੈ, ਤਾਂ Tesla P40 ਚੁਣੋ। ਜੇ ਤੁਹਾਨੂੰ ਵੱਧ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਜਾਂ ਆਧੁਨਿਕ tensor ਐਕਸਲਰੇਸ਼ਨ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਭਾਰੀ ਟ੍ਰੇਨਿੰਗ ਲਈ ਨਵਾਂ ਜਾਂ ਵੱਡਾ GPU ਚੁਣੋ, ਜਾਂ ਜੇ ਤੁਹਾਡਾ ਵਰਕਲੋਡ ਘੱਟ ਮੈਮੋਰੀ ਵਰਤਦਾ ਹੈ, ਤਾਂ ਛੋਟਾ GPU ਚੁਣੋ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ Tesla P40 ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਉਣ ਲਈ ਢੁਕਵਾਂ ਹੈ?
24 GB VRAM ਸਮਰੱਥਾ ਕਾਰਨ Tesla P40 ਮੱਧਮ ਆਕਾਰ ਦੇ, quantized ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਮੈਮੋਰੀ ਵਿੱਚ ਰੱਖ ਸਕਦਾ ਹੈ, ਜਿਵੇਂ Ollama ਵਰਗੇ ਟੈਂਪਲੇਟਾਂ ਰਾਹੀਂ। ਹਾਲਾਂਕਿ, ਇਸਦੀ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਲਗਭਗ 257 GB/s ਹੈ ਅਤੇ ਇਹ ਪੁਰਾਣੀ Pascal ਆਰਕੀਟੈਕਚਰ ਵਰਤਦਾ ਹੈ, ਇਸ ਲਈ ਟੋਕਨ ਜਨਰੇਸ਼ਨ ਨਵੇਂ ਡੇਟਾਸੈਂਟਰ GPU ਨਾਲੋਂ ਹੌਲੀ ਹੋਵੇਗੀ।
compute capability 6.1 ਨਾਲ ਕਿਹੜੀ ਸਾਫਟਵੇਅਰ ਅਨੁਕੂਲਤਾ ਦੀ ਉਮੀਦ ਕਰਾਂ?
Compute capability 6.1 ਲਗਭਗ 9.4 TFLOPS 'ਤੇ ਮਿਆਰੀ single-precision ਵਰਕਲੋਡ ਨੂੰ ਸਮਰਥਨ ਦਿੰਦੀ ਹੈ, ਜੋ ਆਮ PyTorch/CUDA ਟੈਂਪਲੇਟਾਂ ਨਾਲ ਚੰਗੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਦੀ ਹੈ। ਕੁਝ ਆਧੁਨਿਕ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਲਾਇਬ੍ਰੇਰੀਆਂ ਜਾਂ ਫੀਚਰ ਜਿਨ੍ਹਾਂ ਨੂੰ ਨਵੀਆਂ ਹਾਰਡਵੇਅਰ ਹਦਾਇਤਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਉਹ Pascal ਆਰਕੀਟੈਕਚਰ 'ਤੇ ਨਹੀਂ ਚੱਲ ਸਕਦੇ।
ONIE 'ਤੇ ਆਪਣੇ Tesla P40 ਇੰਸਟੈਂਸ ਨਾਲ ਕਿਵੇਂ ਜੁੜਾਂ ਅਤੇ ਇਸਨੂੰ ਕਿਵੇਂ ਸੈੱਟਅੱਪ ਕਰਾਂ?
ਤੁਸੀਂ PyTorch/CUDA, vLLM, Ollama, ਜਾਂ ComfyUI ਲਈ ਤਿਆਰ ਟੈਂਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਇੰਸਟੈਂਸ ਡਿਪਲੌਏ ਕਰ ਸਕਦੇ ਹੋ। ਸਿੱਧੀ SSH ਪਹੁੰਚ ਸ਼ਾਮਲ ਹੈ, ਤਾਂ ਜੋ ਤੁਸੀਂ ਆਪਣੇ ਟਰਮੀਨਲ ਤੋਂ ਫਾਈਲਾਂ ਅਤੇ ਕਸਟਮ ਵਾਤਾਵਰਣ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰ ਸਕੋ।
Tesla P40 ਕਿਰਾਏ 'ਤੇ ਲੈਣ ਲਈ ਬਿਲਿੰਗ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ?
ONIE 'ਤੇ ਇੰਸਟੈਂਸ ਪ੍ਰਤੀ-ਘੰਟਾ ਬਿਲਿੰਗ ਵਰਤਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਤੁਸੀਂ ਸਿਰਫ਼ ਉਸ ਸਮੇਂ ਲਈ ਭੁਗਤਾਨ ਕਰਦੇ ਹੋ ਜਿੰਨਾ ਸਮਾਂ ਤੁਹਾਡਾ ਡੇਟਾਸੈਂਟਰ GPU ਇੰਸਟੈਂਸ ਚਾਲੂ ਰਹਿੰਦਾ ਹੈ।
Tesla P40 ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
Tesla P40 ਕਿਰਾਏ ’ਤੇ ਲਓ