ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA Tesla V100 GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA Tesla V100 ਇੱਕ Volta ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ ਡੇਟਾਸੈਂਟਰ GPU ਹੈ ਜਿਸ ਵਿੱਚ 16 GB ਉੱਚ-ਬੈਂਡਵਿਡਥ VRAM ਅਤੇ 300 W ਥਰਮਲ ਡਿਜ਼ਾਈਨ ਪਾਵਰ ਹੈ। ਇਹ ਲਗਭਗ 12.5 TFLOPS ਸਿੰਗਲ-ਪ੍ਰਿਸ਼ਨ ਕੰਪਿਊਟ ਅਤੇ ਲਗਭਗ 780 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਕਰਕੇ ਇਹ ਮੈਮੋਰੀ-ਗਹਿਰੀ ਵਿਗਿਆਨਕ ਕੰਪਿਊਟਿੰਗ ਅਤੇ ਡੀਪ ਲਰਨਿੰਗ ਕਾਰਜਾਂ ਲਈ ਭਰੋਸੇਯੋਗ ਵਿਕਲਪ ਹੈ। ONIE 'ਤੇ, ਤੁਸੀਂ Tesla V100 ਨੂੰ ਪ੍ਰਤੀ ਘੰਟਾ ਬਿਲਿੰਗ, ਪੂਰੀ SSH ਪਹੁੰਚ ਅਤੇ ਪਹਿਲਾਂ ਤੋਂ ਸੰਰਚਿਤ ਟੈਮਪਲੇਟਾਂ ਨਾਲ ਡਿਪਲੌਇ ਕਰ ਸਕਦੇ ਹੋ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
Tesla V100 ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
ਸੰਖੇਪ LLM ਇਨਫਰੈਂਸ
Ollama ਜਾਂ vLLM ਟੈਮਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਕੁਆਂਟਾਈਜ਼ਡ ਜਾਂ ਛੋਟੇ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਓ, ਅਤੇ ਲਗਭਗ 780 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦਾ ਲਾਭ ਉਠਾਓ।
ਡੀਪ ਲਰਨਿੰਗ ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ
16 GB VRAM ਅਤੇ ਕੰਪਿਊਟ ਕੈਪੇਬਿਲਟੀ 7.0 ਨਾਲ PyTorch ਵਿੱਚ ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਆਰਕੀਟੈਕਚਰਾਂ ਨੂੰ ਟ੍ਰੇਨ ਅਤੇ ਵੈਲੀਡੇਟ ਕਰੋ।
ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਵਰਕਫਲੋ
ਪਹਿਲਾਂ ਤੋਂ ਇੰਸਟਾਲ ComfyUI ਟੈਮਪਲੇਟਾਂ ਰਾਹੀਂ ਡਿਫਿਊਜ਼ਨ ਪਾਈਪਲਾਈਨਾਂ ਅਤੇ ਕਸਟਮ ਜਨਰੇਸ਼ਨ ਗ੍ਰਾਫ ਚਲਾਓ।
ਵਿਗਿਆਨਕ ਸਿਮੂਲੇਸ਼ਨ ਅਤੇ ਕੰਪਿਊਟ
Volta ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਲਗਭਗ 12.5 TFLOPS ਸਿੰਗਲ-ਪ੍ਰਿਸ਼ਨ ਕਾਰਗੁਜ਼ਾਰੀ ਦਾ ਲਾਭ ਉਠਾਉਣ ਵਾਲੇ ਬੈਂਡਵਿਡਥ-ਸੀਮਤ ਡੇਟਾਸੈਂਟਰ ਵਰਕਲੋਡ ਚਲਾਓ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
16 GB Tesla V100 ਉਹਨਾਂ ਖੋਜਕਾਰਾਂ ਅਤੇ ਡਿਵੈਲਪਰਾਂ ਲਈ ਢੁਕਵਾਂ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਛੋਟੇ ਤੋਂ ਦਰਮਿਆਨੇ ਮਾਡਲਾਂ ਅਤੇ ਵਿਗਿਆਨਕ ਵਰਕਲੋਡਾਂ ਲਈ ਉੱਚ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦੀ ਲੋੜ ਹੈ, ਬਿਨਾਂ ਨਵੇਂ ਡੇਟਾਸੈਂਟਰ ਹਾਰਡਵੇਅਰ ਲਈ ਵਧੇਰੇ ਖਰਚ ਕੀਤੇ। ਘੱਟ ਮੈਮੋਰੀ ਲੋੜਾਂ ਵਾਲੇ ਬੁਨਿਆਦੀ ਵਿਕਾਸ ਲਈ ਛੋਟਾ ਕੰਜ਼ਿਊਮਰ GPU ਚੁਣੋ, ਜਾਂ ਜੇ ਤੁਹਾਡੇ ਮਾਡਲ 16 GB ਤੋਂ ਵੱਧ ਹਨ ਜਾਂ ਕੰਪਿਊਟ ਕੈਪੇਬਿਲਟੀ 7.0 ਤੋਂ ਅੱਗੇ ਦੀਆਂ ਨਵੀਆਂ ਆਰਕੀਟੈਕਚਰਲ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਵੱਡੇ VRAM ਵਾਲੇ ਨਵੀਂ ਪੀੜ੍ਹੀ ਦੇ GPU ਵੱਲ ਵਧੋ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ 16 GB Tesla V100 LLM ਇਨਫਰੈਂਸ ਅਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਲਈ ਢੁਕਵਾਂ ਹੈ?
16 GB VRAM ਅਤੇ ਲਗਭਗ 780 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਕਾਰਨ Tesla V100 ਛੋਟੇ ਜਾਂ ਕੁਆਂਟਾਈਜ਼ਡ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੀ ਇਨਫਰੈਂਸ ਅਤੇ ਪੈਰਾਮੀਟਰ-ਕੁਸ਼ਲ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਲਈ ਢੁਕਵਾਂ ਹੈ। ਵੱਡੇ ਮਾਡਲਾਂ ਲਈ ਜੋ 16 GB ਮੈਮੋਰੀ ਵਿੱਚ ਫਿੱਟ ਨਹੀਂ ਹੁੰਦੇ, ਤੁਹਾਨੂੰ ਵੱਧ VRAM ਸਮਰੱਥਾ ਵਾਲਾ GPU ਚੁਣਨਾ ਚਾਹੀਦਾ ਹੈ।
ONIE 'ਤੇ ਕਿਹੜੇ ਸਾਫਟਵੇਅਰ ਟੈਮਪਲੇਟ ਅਤੇ ਕਨੈਕਸ਼ਨ ਤਰੀਕੇ ਉਪਲਬਧ ਹਨ?
ਹਰ Tesla V100 ਇੰਸਟੈਂਸ ਵਿੱਚ ਕਸਟਮ ਕੌਨਫਿਗਰੇਸ਼ਨ ਅਤੇ ਕਮਾਂਡ-ਲਾਈਨ ਵਰਕਫਲੋ ਲਈ ਸਿੱਧੀ SSH ਪਹੁੰਚ ਸ਼ਾਮਲ ਹੈ। ਤੁਸੀਂ PyTorch/CUDA, vLLM, Ollama ਅਤੇ ComfyUI ਸਮੇਤ ਤਿਆਰ ਟੈਮਪਲੇਟ ਵੀ ਲਾਂਚ ਕਰ ਸਕਦੇ ਹੋ ਅਤੇ ਤੁਰੰਤ ਕੰਮ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹੋ।
Volta ਆਰਕੀਟੈਕਚਰ ਫਰੇਮਵਰਕ ਅਨੁਕੂਲਤਾ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ?
Tesla V100 CUDA ਕੰਪਿਊਟ ਕੈਪੇਬਿਲਟੀ 7.0 ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਜੋ PyTorch ਵਰਗੇ ਮਿਆਰੀ ਡੀਪ ਲਰਨਿੰਗ ਫਰੇਮਵਰਕਾਂ ਨਾਲ ਅਨੁਕੂਲ ਹੈ। ਹਾਲਾਂਕਿ, ਜਿਨ੍ਹਾਂ ਵਰਕਲੋਡਾਂ ਨੂੰ ਨਵੀਆਂ ਕੰਪਿਊਟ ਕੈਪੇਬਿਲਟੀਆਂ ਵਿੱਚ ਆਈਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਸਪੱਸ਼ਟ ਲੋੜ ਹੈ, ਉਹਨਾਂ ਲਈ ਵਧੇਰੇ ਨਵੀਂ GPU ਆਰਕੀਟੈਕਚਰ ਦੀ ਲੋੜ ਪਵੇਗੀ।
Tesla V100 ਕਿਰਾਏ 'ਤੇ ਲੈਣ ਲਈ ਬਿਲਿੰਗ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ?
ONIE ਸਾਰੇ Tesla V100 ਕਿਰਾਏ ਲਈ ਸਿੱਧੀ ਪ੍ਰਤੀ ਘੰਟਾ ਬਿਲਿੰਗ ਵਰਤਦਾ ਹੈ। ਤੁਸੀਂ ਸਿਰਫ਼ ਉਸ ਸਮੇਂ ਲਈ ਭੁਗਤਾਨ ਕਰਦੇ ਹੋ ਜਦੋਂ ਤੁਹਾਡਾ ਇੰਸਟੈਂਸ ਸਰਗਰਮ ਹੁੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਤੁਸੀਂ ਪ੍ਰਯੋਗ ਜਾਂ ਬੈਚ ਜੌਬ ਚਲਾ ਸਕਦੇ ਹੋ ਅਤੇ ਮੁਕੰਮਲ ਹੋਣ 'ਤੇ ਸਰਵਰ ਬੰਦ ਕਰ ਸਕਦੇ ਹੋ।
Tesla V100 ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
Tesla V100 ਕਿਰਾਏ ’ਤੇ ਲਓ