ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA RTX 3080 GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA RTX 3080 ਇੱਕ Ampere ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ ਕੰਜ਼ਿਊਮਰ GPU ਹੈ ਜਿਸ ਵਿੱਚ 10 GB VRAM ਹੈ। ਇਹ ਲਗਭਗ 29.5 TFLOPS ਮਿਆਰੀ ਫਲੋਟਿੰਗ-ਪੌਇੰਟ ਕੰਪਿਊਟ ਅਤੇ ਲਗਭਗ 656 GB/s ਮੈਮਰੀ ਬੈਂਡਵਿਡਥ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ONIE 'ਤੇ, ਤੁਸੀਂ ਇਸ GPU ਨੂੰ ਪ੍ਰਤੀ ਘੰਟਾ ਬਿਲਿੰਗ, SSH ਐਕਸੈਸ ਅਤੇ ਤਿਆਰ ਟੈਮਪਲੇਟਾਂ ਨਾਲ ਡਿਪਲੌਇ ਕਰ ਸਕਦੇ ਹੋ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
RTX 3080 ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
ਕੰਪੈਕਟ LLM ਇਨਫਰੈਂਸ
ਪਹਿਲਾਂ ਤੋਂ ਕੌਂਫਿਗਰ ਕੀਤੇ Ollama ਜਾਂ vLLM ਟੈਮਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ 10 GB VRAM ਵਿੱਚ ਫਿੱਟ ਹੋਣ ਵਾਲੇ ਕੁਆਂਟਾਈਜ਼ਡ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਓ।
ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਵਰਕਫ਼ਲੋ
ਸਥਿਰ ਚਿੱਤਰ ਆਊਟਪੁੱਟ ਲਈ ਲਗਭਗ 656 GB/s ਮੈਮਰੀ ਬੈਂਡਵਿਡਥ ਦਾ ਲਾਭ ਲੈ ਕੇ ComfyUI ਵਿੱਚ ਡਿਫਿਊਜ਼ਨ ਪਾਈਪਲਾਈਨਾਂ ਚਲਾਓ।
PyTorch ਮਾਡਲ ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ
ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ compute capability 8.6 ਵਾਲੇ Ampere ਕਾਰਡ 'ਤੇ ਡੀਪ ਲਰਨਿੰਗ ਕੋਡ ਵਿਕਸਤ ਅਤੇ ਟੈਸਟ ਕਰੋ।
CUDA ਕੰਪਿਊਟ ਟਾਸਕ
ਲਗਭਗ 29.5 TFLOPS ਮਿਆਰੀ ਫਲੋਟਿੰਗ-ਪੌਇੰਟ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਕਸਟਮ ਵਰਕਲੋਡਾਂ ਨੂੰ ਤੇਜ਼ ਕਰੋ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ, ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਅਤੇ ਛੋਟੇ ਪੱਧਰ ਦੀ ਇਨਫਰੈਂਸ ਲਈ RTX 3080 ਚੁਣੋ, ਜਿੱਥੇ 10 GB VRAM ਅਤੇ ਮਜ਼ਬੂਤ Ampere ਕੰਪਿਊਟ ਕਾਫ਼ੀ ਹਨ। ਜੇ ਤੁਹਾਡੇ ਮਾਡਲ ਜਾਂ ਬੈਚ ਸਾਈਜ਼ 10 GB ਤੋਂ ਵੱਧ ਹਨ, ਤਾਂ ਵੱਧ ਮੈਮਰੀ ਵਾਲਾ GPU ਚੁਣੋ, ਜਾਂ ਲਗਭਗ 29.5 TFLOPS ਦੀ ਲੋੜ ਨਾ ਵਾਲੀਆਂ ਹਲਕੀਆਂ ਸਕ੍ਰਿਪਟਾਂ ਲਈ ਘੱਟ ਸਪੈਸਿਫ਼ਿਕੇਸ਼ਨ ਵਾਲਾ ਕੰਜ਼ਿਊਮਰ ਕਾਰਡ ਚੁਣੋ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ RTX 3080 LLM ਇਨਫਰੈਂਸ ਅਤੇ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਲਈ ਢੁਕਵਾਂ ਹੈ?
ਹਾਂ, ਇਸ ਦੀ 10 GB VRAM ਅਤੇ ਲਗਭਗ 656 GB/s ਮੈਮਰੀ ਬੈਂਡਵਿਡਥ ComfyUI ਵਿੱਚ ਮਿਆਰੀ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਅਤੇ Ollama ਜਾਂ vLLM ਰਾਹੀਂ ਕੁਆਂਟਾਈਜ਼ਡ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਸੰਭਾਲਦੀ ਹੈ। ਵੱਡੇ ਗੈਰ-ਕੁਆਂਟਾਈਜ਼ਡ ਮਾਡਲਾਂ ਲਈ ਵੱਧ ਮੈਮਰੀ ਸਮਰੱਥਾ ਵਾਲਾ GPU ਚਾਹੀਦਾ ਹੈ।
ONIE 'ਤੇ RTX 3080 ਲਈ ਕਿਹੜੇ ਸਾਫ਼ਟਵੇਅਰ ਟੈਮਪਲੇਟ ਉਪਲਬਧ ਹਨ?
ਤੁਸੀਂ PyTorch/CUDA, vLLM, Ollama ਅਤੇ ComfyUI ਲਈ ਤਿਆਰ ਟੈਮਪਲੇਟਾਂ ਨਾਲ ਇੰਸਟੈਂਸ ਲਾਂਚ ਕਰ ਸਕਦੇ ਹੋ। ਇਹ ਕਾਰਡ ਆਧੁਨਿਕ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਫ੍ਰੇਮਵਰਕਾਂ ਨਾਲ ਵਿਆਪਕ ਅਨੁਕੂਲਤਾ ਲਈ compute capability 8.6 ਨੂੰ ਸਪੋਰਟ ਕਰਦਾ ਹੈ।
RTX 3080 ਤੋਂ ਵੱਡੇ GPU 'ਤੇ ਕਦੋਂ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ?
RTX 3080 380 W ਪਾਵਰ ਐਨਵੈਲਪ ਦੇ ਅੰਦਰ ਲਗਭਗ 29.5 TFLOPS ਦਾ ਮਜ਼ਬੂਤ ਕੰਜ਼ਿਊਮਰ-ਕਲਾਸ ਕੰਪਿਊਟ ਦਿੰਦਾ ਹੈ, ਪਰ ਇਹ 10 GB VRAM ਤੱਕ ਸੀਮਿਤ ਹੈ। ਜੇ ਤੁਹਾਡੇ ਟ੍ਰੇਨਿੰਗ ਬੈਚ ਜਾਂ ਮਾਡਲ ਵੇਟਸ ਆਊਟ-ਆਫ-ਮੈਮਰੀ ਐਰਰ ਦਿੰਦੇ ਹਨ, ਤਾਂ ਵੱਡੇ ਮੈਮਰੀ ਬਫਰ ਵਾਲਾ ਵਰਕਸਟੇਸ਼ਨ ਜਾਂ ਡੇਟਾਸੈਂਟਰ GPU ਢੁਕਵਾਂ ਚੋਣ ਹੈ।
ONIE 'ਤੇ ਬਿਲਿੰਗ ਅਤੇ ਐਕਸੈਸ ਕਿਵੇਂ ਕੰਮ ਕਰਦੇ ਹਨ?
ਐਕਟਿਵ ਹੋਣ ਦੌਰਾਨ ਇੰਸਟੈਂਸਾਂ ਦੀ ਬਿਲਿੰਗ ਪ੍ਰਤੀ ਘੰਟਾ ਆਧਾਰ 'ਤੇ ਹੁੰਦੀ ਹੈ। ਤੁਹਾਨੂੰ ਆਪਣਾ ਵਾਤਾਵਰਣ ਮੈਨੇਜ ਕਰਨ ਲਈ ਪੂਰੀ SSH ਐਕਸੈਸ ਮਿਲਦੀ ਹੈ, ਨਾਲ ਹੀ ਤੁਹਾਡੇ ਚੁਣੇ ਟੈਮਪਲੇਟ ਵੱਲੋਂ ਦਿੱਤੇ ਕੋਈ ਵੀ ਵੈੱਬ ਇੰਟਰਫੇਸ ਵੀ।
RTX 3080 ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
RTX 3080 ਕਿਰਾਏ ’ਤੇ ਲਓ