ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA RTX 3060 GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA RTX 3060 ਇੱਕ ਖਪਤਕਾਰ-ਗ੍ਰੇਡ Ampere ਆਰਕੀਟੈਕਚਰ GPU ਹੈ ਜਿਸ ਵਿੱਚ 12 GB VRAM ਅਤੇ 170 W ਪਾਵਰ ਸੀਮਾ ਹੈ। ਇਹ ਲਗਭਗ 12.0 TFLOPS ਮਿਆਰੀ ਫਲੋਟਿੰਗ-ਪੁਆਇੰਟ ਕਾਰਗੁਜ਼ਾਰੀ ਅਤੇ ਲਗਭਗ 318 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦਿੰਦਾ ਹੈ, ਅਤੇ CUDA compute capability 8.6 ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ONIE 'ਤੇ, ਤੁਸੀਂ RTX 3060 ਨੂੰ ਪ੍ਰਤੀ-ਘੰਟਾ ਬਿਲਿੰਗ, ਪੂਰੀ SSH ਪਹੁੰਚ, ਅਤੇ PyTorch/CUDA, vLLM, Ollama, ਅਤੇ ComfyUI ਲਈ ਤਿਆਰ ਟੈਂਪਲੇਟਾਂ ਨਾਲ ਕਿਰਾਏ 'ਤੇ ਲੈ ਸਕਦੇ ਹੋ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
RTX 3060 ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
ਕੁਆਂਟਾਈਜ਼ਡ LLM ਇਨਫਰੈਂਸ
ਪਹਿਲਾਂ ਤੋਂ ਸੰਰਚਿਤ Ollama ਜਾਂ vLLM ਟੈਂਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ 12 GB VRAM ਦੀ ਸੀਮਾ ਵਿੱਚ ਛੋਟੇ ਜਾਂ ਕੁਆਂਟਾਈਜ਼ਡ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਓ।
ComfyUI ਨਾਲ ਇਮੇਜ ਜਨਰੇਸ਼ਨ
ਮਿਆਰੀ ਡਿਫਿਊਜ਼ਨ ਵਰਕਫਲੋ ਅਤੇ ਇਮੇਜ ਸਿੰਥੇਸਿਸ ਪਾਈਪਲਾਈਨਾਂ ਚਲਾਓ ਜੋ 12 GB ਮੈਮੋਰੀ ਵਿੱਚ ਆਰਾਮ ਨਾਲ ਫਿੱਟ ਹੋ ਜਾਂਦੀਆਂ ਹਨ।
PyTorch ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ ਅਤੇ ਡੀਬਗਿੰਗ
ਵੱਡੇ ਹਾਰਡਵੇਅਰ 'ਤੇ ਵਰਕਲੋਡ ਵਧਾਉਣ ਤੋਂ ਪਹਿਲਾਂ compute capability 8.6 ਵਾਲੇ Ampere ਕਾਰਡ 'ਤੇ CUDA ਕੋਡ ਵਿਕਸਤ ਅਤੇ ਟੈਸਟ ਕਰੋ।
ਛੋਟੇ ਪੈਮਾਨੇ 'ਤੇ ਮਾਡਲ ਫਾਈਨ-ਟਿਊਨਿੰਗ
ਮਾਮੂਲੀ ਡੇਟਾਸੈੱਟਾਂ 'ਤੇ ਪੈਰਾਮੀਟਰ-ਕੁਸ਼ਲ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਕਰੋ, ਜਿੱਥੇ ਲਗਭਗ 12.0 TFLOPS ਕੰਪਿਊਟ ਕਾਫ਼ੀ ਹੈ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
ਵਿਕਾਸ, ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ ਅਤੇ ਹਲਕੇ ਇਨਫਰੈਂਸ ਕੰਮਾਂ ਲਈ RTX 3060 ਚੁਣੋ ਜਿਨ੍ਹਾਂ ਨੂੰ 12 GB VRAM ਦੀ ਲੋੜ ਹੈ, ਡੇਟਾਸੈਂਟਰ ਹਾਰਡਵੇਅਰ ਦੇ ਖਰਚ ਤੋਂ ਬਿਨਾਂ। ਜੇ ਤੁਹਾਡੇ ਮਾਡਲ 12 GB ਤੋਂ ਵੱਧ ਹਨ ਜਾਂ ਲਗਭਗ 318 GB/s ਤੋਂ ਵੱਧ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਵੱਡਾ GPU ਚੁਣੋ। ਜੇ ਤੁਸੀਂ ਸਿਰਫ਼ ਘੱਟ ਮੈਮੋਰੀ ਵਾਲੀਆਂ ਛੋਟੀਆਂ ਸਕ੍ਰਿਪਟਾਂ ਚਲਾਉਂਦੇ ਹੋ, ਤਾਂ ਛੋਟਾ GPU ਚੁਣੋ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ RTX 3060 LLM ਇਨਫਰੈਂਸ ਅਤੇ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਲਈ ਢੁਕਵਾਂ ਹੈ?
ਹਾਂ, 12 GB VRAM ਰਾਹੀਂ Ollama ਅਤੇ vLLM ਦੇ ਜ਼ਰੀਏ ਛੋਟੇ ਜਾਂ ਕੁਆਂਟਾਈਜ਼ਡ ਭਾਸ਼ਾ ਮਾਡਲ ਅਤੇ ComfyUI ਵਿੱਚ ਮਿਆਰੀ ਡਿਫਿਊਜ਼ਨ ਮਾਡਲ ਚਲਾਉਣ ਲਈ ਇਹ ਚੰਗੀ ਤਰ੍ਹਾਂ ਢੁਕਵਾਂ ਹੈ। 12 GB ਤੋਂ ਵੱਧ ਵੱਡੇ ਗੈਰ-ਕੁਆਂਟਾਈਜ਼ਡ ਮਾਡਲਾਂ ਲਈ ਤੁਹਾਨੂੰ ਵੱਧ ਮੈਮੋਰੀ ਸਮਰੱਥਾ ਵਾਲੇ GPU ਦੀ ਲੋੜ ਹੋਵੇਗੀ।
ਇਹ ਖਪਤਕਾਰ Ampere ਕਾਰਡ ਵੱਡੇ GPU ਨਾਲ ਕਿਵੇਂ ਤੁਲਨਾ ਕਰਦਾ ਹੈ?
RTX 3060 ਇੱਕ ਐਂਟਰੀ-ਲੈਵਲ ਖਪਤਕਾਰ ਕਾਰਡ ਲਈ ਵਧੀਆ 12 GB ਮੈਮੋਰੀ ਬਫਰ ਦਿੰਦਾ ਹੈ, ਨਾਲ ਹੀ ਲਗਭਗ 12.0 TFLOPS ਕੰਪਿਊਟ ਅਤੇ ਲਗਭਗ 318 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ। ਉੱਚ-ਪੱਧਰੀ ਖਪਤਕਾਰ ਜਾਂ ਵਰਕਸਟੇਸ਼ਨ GPU ਵੱਲ ਜਾਣ ਨਾਲ ਭਾਰੀ ਟ੍ਰੇਨਿੰਗ ਲਈ ਤੇਜ਼ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਅਤੇ ਵਧੇਰੇ ਕੰਪਿਊਟ ਥਰੂਪੁੱਟ ਮਿਲਦਾ ਹੈ।
ਮੈਂ ਆਪਣਾ RTX 3060 ਇੰਸਟੈਂਸ ਕਿਵੇਂ ਕਨੈਕਟ ਅਤੇ ਸੈੱਟਅੱਪ ਕਰਾਂ?
ONIE 'ਤੇ ਹਰ ਰੈਂਟਲ ਵਿੱਚ ਪੂਰੇ ਕਮਾਂਡ-ਲਾਈਨ ਕੰਟਰੋਲ ਲਈ ਸਿੱਧੀ SSH ਪਹੁੰਚ ਸ਼ਾਮਲ ਹੈ। ਤੁਸੀਂ PyTorch/CUDA, vLLM, Ollama, ਜਾਂ ComfyUI ਲਈ ਤਿਆਰ ਟੈਂਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਤੁਰੰਤ ਸ਼ੁਰੂ ਵੀ ਕਰ ਸਕਦੇ ਹੋ।
ONIE 'ਤੇ RTX 3060 ਲਈ ਬਿਲਿੰਗ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ?
ਜਦੋਂ ਤੁਹਾਡਾ ਰੈਂਟਲ ਸਰਗਰਮ ਹੁੰਦਾ ਹੈ, ਇੰਸਟੈਂਸ ਦੀ ਬਿਲਿੰਗ ਪ੍ਰਤੀ-ਘੰਟਾ ਆਧਾਰ 'ਤੇ ਹੁੰਦੀ ਹੈ। ਇਸ ਨਾਲ ਤੁਸੀਂ Ampere ਆਰਕੀਟੈਕਚਰ ਵਾਲੇ, compute capability 8.6 ਵਾਲੇ ਕਾਰਡ 'ਤੇ ਪ੍ਰਯੋਗ ਕਰ ਸਕਦੇ ਹੋ ਅਤੇ ਕੰਮ ਪੂਰਾ ਹੋਣ 'ਤੇ ਇੰਸਟੈਂਸ ਬੰਦ ਕਰ ਸਕਦੇ ਹੋ।
RTX 3060 ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
RTX 3060 ਕਿਰਾਏ ’ਤੇ ਲਓ