ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA Titan Xp GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA Titan Xp ਇੱਕ Pascal ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ ਖਪਤਕਾਰ GPU ਹੈ, ਜਿਸ ਵਿੱਚ 12 GB VRAM ਅਤੇ 160 W TDP ਹੈ। ONIE 'ਤੇ ਇਹ ਕਾਰਡ ਲਗਭਗ 11.7 TFLOPS ਸਿੰਗਲ-ਪ੍ਰਿਸੀਜ਼ਨ ਕੰਪਿਊਟ ਅਤੇ ਲਗਭਗ 410 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦਿੰਦਾ ਹੈ। ਇਹ ਕੰਪਿਊਟ ਕੈਪੇਬਿਲਟੀ 6.1 ਨੂੰ ਸਪੋਰਟ ਕਰਦਾ ਹੈ ਅਤੇ ਪ੍ਰਤੀ-ਘੰਟਾ ਬਿਲਿੰਗ, SSH ਐਕਸੈਸ ਅਤੇ ਤਿਆਰ ਟੈਮਪਲੇਟਾਂ ਨਾਲ ਉਪਲਬਧ ਹੈ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
Titan Xp ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
PyTorch ਡਿਵੈਲਪਮੈਂਟ ਅਤੇ ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ
12 GB ਮੈਮੋਰੀ ਸੀਮਾ ਦੇ ਅੰਦਰ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਕੋਡ ਲਿਖਣ, ਟੈਸਟ ਕਰਨ ਅਤੇ ਡੀਬੱਗ ਕਰਨ ਲਈ PyTorch/CUDA ਟੈਮਪਲੇਟ ਵਰਤੋ।
ਛੋਟੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੀ ਇਨਫਰੈਂਸ
ਪਹਿਲਾਂ ਤੋਂ ਸੰਰਚਿਤ Ollama ਜਾਂ vLLM ਟੈਮਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ 12 GB VRAM ਵਿੱਚ ਫਿੱਟ ਹੋਣ ਵਾਲੇ ਛੋਟੇ ਭਾਸ਼ਾ ਮਾਡਲ ਚਲਾਓ।
ਮਿਆਰੀ ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਵਰਕਫਲੋ
ਬੁਨਿਆਦੀ ਡਿਫਿਊਜ਼ਨ ਪਾਈਪਲਾਈਨਾਂ ਅਤੇ ਇਮੇਜ ਸਿੰਥੇਸਿਸ ਕੰਮਾਂ ਲਈ ComfyUI ਤੈਨਾਤ ਕਰੋ ਜੋ 12 GB ਮੈਮੋਰੀ ਤੋਂ ਵੱਧ ਨਾ ਹੋਣ।
ਆਮ CUDA ਕੰਪਿਊਟ ਕੰਮ
Pascal ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਕੰਪਿਊਟ ਕੈਪੇਬਿਲਟੀ 6.1 ਨਾਲ ਅਨੁਕੂਲ ਕਸਟਮ ਸਿੰਗਲ-ਪ੍ਰਿਸੀਜ਼ਨ ਕੰਪਿਊਟ ਵਰਕਲੋਡ ਚਲਾਓ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
ਬਜਟ-ਪ੍ਰਤੀ-ਸੁਚੇਤ ਡਿਵੈਲਪਮੈਂਟ, ਪੁਰਾਣੀ CUDA ਅਨੁਕੂਲਤਾ ਟੈਸਟਿੰਗ, ਜਾਂ 12 GB ਤੱਕ VRAM ਵਾਲੇ ਹਲਕੇ ਇਨਫਰੈਂਸ ਕੰਮਾਂ ਲਈ Titan Xp ਚੁਣੋ। ਜੇ ਤੁਹਾਡੇ ਵਰਕਲੋਡ ਨੂੰ ਆਧੁਨਿਕ ਟੈਂਸਰ ਕੋਰ ਜਾਂ ਵੱਧ ਮੈਮੋਰੀ ਸਮਰੱਥਾ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਨਵਾਂ ਜਾਂ ਵੱਡਾ GPU ਚੁਣੋ, ਜਾਂ ਘੱਟੋ-ਘੱਟ ਡਿਸਪਲੇ ਅਤੇ ਕੰਪਿਊਟ ਸਕ੍ਰਿਪਟਾਂ ਲਈ ਇੱਕ ਛੋਟਾ ਖਪਤਕਾਰ ਕਾਰਡ ਚੁਣੋ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ NVIDIA Titan Xp LLM ਇਨਫਰੈਂਸ ਅਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਲਈ ਢੁਕਵਾਂ ਹੈ?
12 GB VRAM ਅਤੇ Pascal ਆਰਕੀਟੈਕਚਰ ਨਾਲ ਇਹ Ollama ਜਾਂ vLLM ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਛੋਟੇ ਮਾਡਲਾਂ ਦੀ ਇਨਫਰੈਂਸ ਸੰਭਾਲ ਸਕਦਾ ਹੈ। ਵੱਡੇ ਮਾਡਲਾਂ ਜਾਂ ਆਧੁਨਿਕ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਵਰਕਫਲੋ ਲਈ, ਜੋ ਨਵੀਆਂ ਕੰਪਿਊਟ ਸਮਰੱਥਾਵਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਵੱਧ ਮੈਮੋਰੀ ਅਤੇ ਨਵੀਂ ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ GPU ਸਿਫ਼ਾਰਸ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
ਇਸ ਇੰਸਟੈਂਸ ਦੀਆਂ ਕੰਪਿਊਟ ਅਤੇ ਮੈਮੋਰੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਕੀ ਹਨ?
ਇਸ ਖਪਤਕਾਰ GPU ਵਿੱਚ 12 GB VRAM, 160 W ਪਾਵਰ ਲਿਫ਼ਾਫ਼ਾ ਅਤੇ ਕੰਪਿਊਟ ਕੈਪੇਬਿਲਟੀ 6.1 ਹੈ। ਇੰਫਰਾਸਟ੍ਰਕਚਰ ਪ੍ਰਦਾਤਾ ਦੇ ਮਾਪਾਂ ਅਨੁਸਾਰ ਲਗਭਗ 11.7 TFLOPS ਸਿੰਗਲ-ਪ੍ਰਿਸੀਜ਼ਨ ਕਾਰਗੁਜ਼ਾਰੀ ਅਤੇ ਲਗਭਗ 410 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਹੈ।
ਮੈਂ ਇੰਸਟੈਂਸ ਨਾਲ ਕਿਵੇਂ ਜੁੜਾਂ ਅਤੇ ਕਿਹੜਾ ਸਾਫਟਵੇਅਰ ਉਪਲਬਧ ਹੈ?
ਤੁਸੀਂ SSH ਐਕਸੈਸ ਰਾਹੀਂ ਸਿੱਧਾ ਆਪਣੇ ਇੰਸਟੈਂਸ ਨਾਲ ਜੁੜ ਸਕਦੇ ਹੋ। ONIE PyTorch/CUDA, vLLM, Ollama ਅਤੇ ComfyUI ਲਈ ਤਿਆਰ ਟੈਮਪਲੇਟ ਵੀ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਜੋ ਤੁਸੀਂ ਆਪਣਾ ਵਰਕਲੋਡ ਜਲਦੀ ਸ਼ੁਰੂ ਕਰ ਸਕੋ।
ONIE 'ਤੇ Titan Xp ਲਈ ਬਿਲਿੰਗ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ?
ਇੰਸਟੈਂਸਾਂ ਦੀ ਬਿਲਿੰਗ ਪ੍ਰਤੀ-ਘੰਟਾ ਆਧਾਰ 'ਤੇ ਹੁੰਦੀ ਹੈ। ਤੁਸੀਂ ਸਿਰਫ਼ ਉਨ੍ਹਾਂ ਘੰਟਿਆਂ ਦਾ ਭੁਗਤਾਨ ਕਰਦੇ ਹੋ ਜਦੋਂ ਤੁਹਾਡਾ GPU ਇੰਸਟੈਂਸ ਸਰਗਰਮ ਰਹਿੰਦਾ ਹੈ।
Titan Xp ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
Titan Xp ਕਿਰਾਏ ’ਤੇ ਲਓ