ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA Q RTX 4000 GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA Q RTX 4000 ਇੱਕ Turing-ਅਧਾਰਿਤ ਵਰਕਸਟੇਸ਼ਨ GPU ਹੈ ਜੋ ONIE 'ਤੇ ਐਂਟਰੀ-ਲੈਵਲ AI ਅਤੇ ਗ੍ਰਾਫਿਕਸ ਵਰਕਲੋਡ ਲਈ ਕਿਰਾਏ 'ਤੇ ਉਪਲਬਧ ਹੈ। ਇਹ 8 GB VRAM, ਲਗਭਗ 7.7 TFLOPS ਸਿੰਗਲ-ਪ੍ਰੀਸੀਜ਼ਨ ਕੰਪਿਊਟ, ਅਤੇ 125 W ਪਾਵਰ ਪ੍ਰੋਫਾਈਲ ਵਿੱਚ ਲਗਭਗ 353 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦਿੰਦਾ ਹੈ। ਇਹ CUDA compute capability 7.5 ਨੂੰ ਸਪੋਰਟ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਸ ਇੰਸਟੈਂਸ ਨੂੰ PyTorch/CUDA, vLLM, Ollama ਅਤੇ ComfyUI ਲਈ ਤਿਆਰ ਟੈਂਪਲੇਟਾਂ ਨਾਲ ਡਿਪਲੌਏ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
Q RTX 4000 ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
ਕੋਡ ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ ਅਤੇ ਡੀਬੱਗਿੰਗ
ਵੱਡੇ ਹਾਰਡਵੇਅਰ 'ਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ 8 GB ਵਰਕਸਟੇਸ਼ਨ GPU 'ਤੇ PyTorch/CUDA ਪਾਈਪਲਾਈਨਾਂ ਦੀ ਜਾਂਚ ਅਤੇ ਪੁਸ਼ਟੀ ਕਰੋ।
ਸੰਖੇਪ ਮਾਡਲ ਇਨਫਰੈਂਸ
Ollama ਜਾਂ vLLM ਰਾਹੀਂ ਛੋਟੇ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਓ ਜੋ 8 GB VRAM ਵਿੱਚ ਆਰਾਮ ਨਾਲ ਫਿੱਟ ਹੋਣ।
ਬੁਨਿਆਦੀ ਇਮੇਜ ਜਨਰੇਸ਼ਨ
ComfyUI ਵਿੱਚ ਮਿਆਰੀ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਵਰਕਫਲੋ ਚਲਾਓ ਜੋ 8 GB ਮੈਮੋਰੀ ਸੀਮਾ ਤੋਂ ਵੱਧ ਨਾ ਹੋਣ।
ਵਰਕਸਟੇਸ਼ਨ ਗ੍ਰਾਫਿਕਸ ਅਤੇ ਰੈਂਡਰਿੰਗ
ਰਿਮੋਟ ਰੈਂਡਰਿੰਗ ਅਤੇ ਵਿਜ਼ੂਅਲਾਈਜ਼ੇਸ਼ਨ ਕੰਮਾਂ ਲਈ Turing ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਲਗਭਗ 353 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਵਰਤੋ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
ਹਲਕੀ ਇਨਫਰੈਂਸ, ਰੈਂਡਰਿੰਗ ਅਤੇ ਕੋਡ ਡਿਵੈਲਪਮੈਂਟ ਲਈ Q RTX 4000 ਚੁਣੋ ਜੋ 8 GB VRAM ਅਤੇ compute capability 7.5 ਵਿੱਚ ਫਿੱਟ ਹੋਣ। ਭਾਰੀ ਮਾਡਲ ਟ੍ਰੇਨਿੰਗ ਜਾਂ ਵੱਡੇ ਪੱਧਰ ਦੀ ਇਨਫਰੈਂਸ ਲਈ ਵਧੇਰੇ ਮੈਮੋਰੀ ਅਤੇ ਨਵੀਂ ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ ਵੱਡਾ GPU ਚੁਣੋ, ਜਾਂ ਬੁਨਿਆਦੀ ਡਿਸਪਲੇ ਜਾਂ ਘੱਟ ਕੰਪਿਊਟ ਕੰਮਾਂ ਲਈ ਛੋਟਾ GPU ਚੁਣੋ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ Q RTX 4000 LLM ਇਨਫਰੈਂਸ ਅਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਲਈ ਢੁਕਵਾਂ ਹੈ?
8 GB VRAM ਅਤੇ ਲਗਭਗ 7.7 TFLOPS ਸਿੰਗਲ-ਪ੍ਰੀਸੀਜ਼ਨ ਪ੍ਰਦਰਸ਼ਨ ਨਾਲ ਇਹ Ollama ਜਾਂ vLLM ਰਾਹੀਂ ਸੰਖੇਪ ਮਾਡਲਾਂ ਨਾਲ ਇਨਫਰੈਂਸ ਲਈ ਢੁਕਵਾਂ ਹੈ। ਵੱਡੇ ਮਾਡਲਾਂ ਜਾਂ ਫੁੱਲ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਵਰਕਲੋਡ ਲਈ ਲਗਭਗ 353 GB/s ਤੋਂ ਵੱਧ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਅਤੇ ਵਧੇਰੇ VRAM ਵਾਲਾ GPU ਚੁਣੋ।
ਕੀ ਮੈਂ ਇਸ GPU ਨੂੰ ComfyUI ਅਤੇ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਲਈ ਵਰਤ ਸਕਦਾ ਹਾਂ?
ਹਾਂ, ONIE ਇਸ Turing ਵਰਕਸਟੇਸ਼ਨ GPU 'ਤੇ ਚੱਲਣ ਵਾਲਾ ਤਿਆਰ ComfyUI ਟੈਂਪਲੇਟ ਪੇਸ਼ ਕਰਦਾ ਹੈ। ਇਹ 8 GB ਮੈਮੋਰੀ ਵਿੱਚ ਫਿੱਟ ਹੋਣ ਵਾਲੀਆਂ ਮਿਆਰੀ ਜਨਰੇਸ਼ਨ ਪਾਈਪਲਾਈਨਾਂ ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ, ਪਰ ਵੱਡੀਆਂ ਪਾਈਪਲਾਈਨਾਂ ਲਈ ਵੱਡੀ ਮੈਮੋਰੀ ਵਾਲਾ GPU ਚਾਹੀਦਾ ਹੋਵੇਗਾ।
ਮੈਂ ਇੰਸਟੈਂਸ ਨਾਲ ਕਿਵੇਂ ਜੁੜਾਂ ਅਤੇ ਕਿਹੜਾ ਸਾਫਟਵੇਅਰ ਪਹਿਲਾਂ ਤੋਂ ਇੰਸਟਾਲ ਹੈ?
ਤੁਸੀਂ ਚੱਲ ਰਹੇ ਇੰਸਟੈਂਸ ਨਾਲ ਸਿੱਧਾ SSH ਐਕਸੈਸ ਰਾਹੀਂ ਜੁੜ ਸਕਦੇ ਹੋ। ONIE PyTorch/CUDA, vLLM, Ollama ਅਤੇ ComfyUI ਸਮੇਤ ਪਹਿਲਾਂ ਤੋਂ ਕੌਂਫ਼ਿਗਰ ਕੀਤੇ ਟੈਂਪਲੇਟ ਦਿੰਦਾ ਹੈ ਤਾਂ ਜੋ ਤੁਸੀਂ ਤੁਰੰਤ ਕੰਮ ਸ਼ੁਰੂ ਕਰ ਸਕੋ।
ONIE 'ਤੇ Q RTX 4000 ਲਈ ਬਿਲਿੰਗ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ?
ਜਦੋਂ ਤੁਹਾਡਾ ਵਰਕਸਟੇਸ਼ਨ GPU ਚਾਲੂ ਹੁੰਦਾ ਹੈ, ਇੰਸਟੈਂਸਾਂ ਦੀ ਬਿਲਿੰਗ ਪ੍ਰਤੀ ਘੰਟਾ ਆਧਾਰ 'ਤੇ ਹੁੰਦੀ ਹੈ। ਇਸ ਨਾਲ ਤੁਸੀਂ ਡਿਵੈਲਪਮੈਂਟ ਜਾਂ ਰੈਂਡਰਿੰਗ ਸੈਸ਼ਨ ਚਲਾ ਸਕਦੇ ਹੋ ਅਤੇ ਕੰਮ ਮੁਕੰਮਲ ਹੋਣ 'ਤੇ ਇੰਸਟੈਂਸ ਬੰਦ ਕਰ ਸਕਦੇ ਹੋ।
Q RTX 4000 ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
Q RTX 4000 ਕਿਰਾਏ ’ਤੇ ਲਓ