ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA RTX 3090 GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA RTX 3090 ਇੱਕ Ampere-ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ ਕੰਜ਼ਿਊਮਰ GPU ਹੈ ਜਿਸ ਵਿੱਚ 24 GB VRAM ਅਤੇ compute capability 8.6 ਹੈ। ਇਹ ਲਗਭਗ 35.4 TFLOPS ਸਟੈਂਡਰਡ single-precision compute ਅਤੇ ਲਗਭਗ 805 GB/s ਮੈਮਰੀ ਬੈਂਡਵਿਡਥ ਦਿੰਦਾ ਹੈ, ਜਿਸਦੀ ਪਾਵਰ ਰੇਟਿੰਗ 350 W ਹੈ। ਤੁਸੀਂ ਇਸ GPU ਨੂੰ ONIE 'ਤੇ ਪ੍ਰਤੀ-ਘੰਟਾ ਬਿਲਿੰਗ, ਪੂਰੀ SSH ਪਹੁੰਚ ਅਤੇ PyTorch/CUDA, vLLM, Ollama ਅਤੇ ComfyUI ਲਈ ਤਿਆਰ ਟੈਂਪਲੇਟਾਂ ਨਾਲ ਕਿਰਾਏ 'ਤੇ ਲੈ ਸਕਦੇ ਹੋ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
RTX 3090 ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
ਲੋਕਲ ਪੱਧਰ ਦੀ LLM inference
ਪਹਿਲਾਂ ਤੋਂ ਕੌਂਫ਼ਿਗਰ ਕੀਤੇ vLLM ਜਾਂ Ollama ਟੈਂਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ 24 GB VRAM ਵਿੱਚ quantized ਜਾਂ ਦਰਮਿਆਨੇ ਆਕਾਰ ਦੇ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਓ।
ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਵਰਕਫ਼ਲੋ
ਉੱਚ-ਰੈਜ਼ੋਲਿਊਸ਼ਨ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਲਈ ComfyUI ਡਿਪਲੌਏ ਕਰੋ ਅਤੇ ਕਸਟਮ diffusion pipelines ਚਲਾਓ, ਬਿਨਾਂ ਸਟੈਂਡਰਡ ਕੰਜ਼ਿਊਮਰ ਕਾਰਡਾਂ 'ਤੇ ਮੈਮਰੀ ਸੀਮਾ ਤੱਕ ਪਹੁੰਚੇ।
ਮਾਡਲ fine-tuning ਅਤੇ ਟ੍ਰੇਨਿੰਗ
PyTorch/CUDA ਟੈਂਪਲੇਟ ਦੀ ਵਰਤੋਂ ਕਰਕੇ 24 GB ਮੈਮਰੀ ਸੀਮਾ ਵਿੱਚ ਫਿੱਟ ਹੋਣ ਵਾਲੇ neural networks ਨੂੰ fine-tune ਕਰੋ, ਜੋ ਲਗਭਗ 805 GB/s ਮੈਮਰੀ ਬੈਂਡਵਿਡਥ ਦਾ ਲਾਭ ਉਠਾਉਂਦੇ ਹਨ।
ਆਮ CUDA compute
compute capability 8.6 ਲਈ compile ਕੀਤੇ ਕਸਟਮ workloads ਨੂੰ ਲਗਭਗ 35.4 TFLOPS single-precision ਪ੍ਰਦਰਸ਼ਨ ਨਾਲ ਚਲਾਓ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
RTX 3090 ਉਹਨਾਂ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਖੋਜਕਾਰਾਂ ਲਈ ਢੁਕਵਾਂ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਕੰਜ਼ਿਊਮਰ ਸ਼੍ਰੇਣੀ ਦੇ Ampere ਕਾਰਡ 'ਤੇ ਮੈਮਰੀ-ਭਾਰੀ ਕੰਮਾਂ ਲਈ 24 GB VRAM ਦੀ ਲੋੜ ਹੈ। ਹਲਕੇ inference ਲਈ ਜਿਸ ਵਿੱਚ ਘੱਟ ਮੈਮਰੀ ਲੱਗਦੀ ਹੈ, ਛੋਟਾ GPU ਚੁਣੋ, ਜਾਂ ਜੇ ਤੁਹਾਡੇ ਮਾਡਲ 24 GB VRAM ਤੋਂ ਵੱਧ ਹਨ ਜਾਂ ਨਵੀਆਂ architecture ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ workstation ਜਾਂ datacenter GPU ਵੱਲ ਜਾਓ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ RTX 3090 LLM inference ਅਤੇ fine-tuning ਲਈ ਢੁਕਵਾਂ ਹੈ?
ਹਾਂ, ਇਸਦੀ 24 GB VRAM ਅਤੇ ਲਗਭਗ 805 GB/s ਮੈਮਰੀ ਬੈਂਡਵਿਡਥ ਇਸਨੂੰ ਕਈ open-weight ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਉਣ ਅਤੇ fine-tune ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦੀ ਹੈ। ਤੁਸੀਂ ਸਿੱਧੇ ONIE 'ਤੇ vLLM, Ollama ਜਾਂ PyTorch/CUDA ਟੈਂਪਲੇਟ ਲਾਂਚ ਕਰਕੇ ਤੁਰੰਤ ਕੰਮ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹੋ।
RTX 3090 ਛੋਟੇ ਜਾਂ ਵੱਡੇ GPUs ਨਾਲ ਕਿਵੇਂ ਤੁਲਨਾ ਕਰਦਾ ਹੈ?
24 GB VRAM ਨਾਲ RTX 3090 ਹੇਠਲੇ ਦਰਜੇ ਦੇ ਕੰਜ਼ਿਊਮਰ ਕਾਰਡਾਂ ਨਾਲੋਂ ਕਾਫ਼ੀ ਵੱਧ model weights ਅਤੇ ਵੱਡੇ batch sizes ਰੱਖ ਸਕਦਾ ਹੈ। ਪਰ ਜੇ ਤੁਹਾਡੇ workload ਨੂੰ 24 GB ਤੋਂ ਵੱਧ ਮੈਮਰੀ ਜਾਂ ਲਗਭਗ 35.4 TFLOPS ਤੋਂ ਵੱਧ single-precision compute ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਨਵੀਂ ਪੀੜ੍ਹੀ ਜਾਂ datacenter ਸ਼੍ਰੇਣੀ ਦੇ GPU 'ਤੇ ਵਿਚਾਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਮੈਂ ਆਪਣੇ RTX 3090 instance ਨਾਲ ਕਿਵੇਂ ਜੁੜਾਂ ਅਤੇ ਕਿਹੜਾ software ਸ਼ਾਮਲ ਹੈ?
ਤੁਸੀਂ SSH ਪਹੁੰਚ ਰਾਹੀਂ ਸਿੱਧੇ ਆਪਣੇ instance ਨਾਲ ਜੁੜ ਸਕਦੇ ਹੋ। ONIE PyTorch/CUDA, vLLM, Ollama ਅਤੇ ComfyUI ਲਈ ਵਰਤੋਂ ਲਈ ਤਿਆਰ ਟੈਂਪਲੇਟ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਤਾਂ ਜੋ ਤੁਹਾਨੂੰ software stack ਹੱਥੀਂ ਕੌਂਫ਼ਿਗਰ ਨਾ ਕਰਨਾ ਪਵੇ।
ONIE 'ਤੇ RTX 3090 ਦੀ ਬਿਲਿੰਗ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ?
Instances ਦੀ ਬਿਲਿੰਗ ਪ੍ਰਤੀ-ਘੰਟਾ ਆਧਾਰ 'ਤੇ ਹੁੰਦੀ ਹੈ। ਤੁਸੀਂ ਸਿਰਫ਼ ਉਸ ਸਮੇਂ ਦਾ ਭੁਗਤਾਨ ਕਰਦੇ ਹੋ ਜਦੋਂ ਤੁਹਾਡਾ GPU instance ਸਰਗਰਮ ਹੁੰਦਾ ਹੈ।
RTX 3090 ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
RTX 3090 ਕਿਰਾਏ ’ਤੇ ਲਓ