ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ NVIDIA H100 PCIE GPU ਕਿਰਾਏ 'ਤੇ ਲਓ
NVIDIA H100 PCIE ਇੱਕ Hopper ਆਰਕੀਟੈਕਚਰ ਵਾਲਾ ਡੇਟਾਸੈਂਟਰ GPU ਹੈ, ਜੋ ਮੰਗ ਵਾਲੇ ਡੀਪ ਲਰਨਿੰਗ ਅਤੇ ਵਿਗਿਆਨਕ ਕੰਪਿਊਟਿੰਗ ਕੰਮਾਂ ਲਈ ਬਣਾਇਆ ਗਿਆ ਹੈ। ਇਹ 350 W ਪਾਵਰ ਸੀਮਾ ਵਿੱਚ 80 GB VRAM, ਲਗਭਗ 1760 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਅਤੇ ਲਗਭਗ 41.0 TFLOPS ਸਟੈਂਡਰਡ ਫਲੋਟਿੰਗ-ਪੁਆਇੰਟ ਕੰਪਿਊਟ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ONIE 'ਤੇ, ਤੁਸੀਂ ਪ੍ਰਤੀ ਘੰਟਾ ਬਿਲਿੰਗ ਅਤੇ ਪੂਰੀ SSH ਪਹੁੰਚ ਨਾਲ ਇਸ compute capability 9.0 ਐਕਸੇਲਰੇਟਰ ਨੂੰ ਡਿਪਲੌਏ ਕਰ ਸਕਦੇ ਹੋ।
ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਹਰ GPU ਲਈ VRAM
ਆਰਕੀਟੈਕਚਰ
ਕੰਪਿਊਟ ਸਮਰੱਥਾ
FP32 ਕੰਪਿਊਟ
ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ
ਪਾਵਰ ਸੀਮਾ
ਇਹ ਮੁੱਲ ਇਸ ਵੇਲੇ ਸੂਚੀਬੱਧ ਮਸ਼ੀਨਾਂ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਪ੍ਰਦਾਤਾ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਹਨ; ਅਸਲ ਕਾਰਗੁਜ਼ਾਰੀ ਹਰ ਮਸ਼ੀਨ ਅਨੁਸਾਰ ਵੱਖਰੀ ਹੋ ਸਕਦੀ ਹੈ।
ਉਪਲਬਧ ਸੰਰਚਨਾਵਾਂ
ਸਟਾਕ ਅਤੇ ਕੀਮਤਾਂ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਹੁੰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ। ਆਰਡਰ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਅੰਤਿਮ ਕੀਮਤ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਲਾਈਵ ਕੀਮਤਾਂ ਲੋਡ ਹੋ ਰਹੀਆਂ ਹਨ…
H100 PCIE ਕਿਸ ਲਈ ਵਧੀਆ ਹੈ
ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ (LLM) ਇਨਫਰੈਂਸ
80 GB VRAM ਅਤੇ ਉੱਚ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦੀ ਵਰਤੋਂ ਕਰਕੇ, ਪਹਿਲਾਂ ਤੋਂ ਸੰਰਚਿਤ vLLM ਜਾਂ Ollama ਟੈਮਪਲੇਟਾਂ ਨਾਲ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਮੈਮੋਰੀ ਵਿੱਚ ਸਰਵ ਕਰੋ।
ਮਾਡਲ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਅਤੇ ਟ੍ਰੇਨਿੰਗ
Hopper ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਤਿਆਰ PyTorch/CUDA ਵਾਤਾਵਰਣ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਡੀਪ ਨਿਊਰਲ ਨੈੱਟਵਰਕਾਂ ਨੂੰ ਟ੍ਰੇਨ ਜਾਂ ਫਾਈਨ-ਟਿਊਨ ਕਰੋ।
ਬੈਚ ਇਮੇਜ ਜਨਰੇਸ਼ਨ
ਉੱਚ-ਥ੍ਰੂਪੁੱਟ ਡਿਫਿਊਜ਼ਨ ਪਾਈਪਲਾਈਨਾਂ ਅਤੇ ਗੁੰਝਲਦਾਰ ComfyUI ਵਰਕਫਲੋ ਚਲਾਓ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਵੱਡੀ ਮੈਮੋਰੀ ਸਮਰੱਥਾ ਦਾ ਫਾਇਦਾ ਮਿਲਦਾ ਹੈ।
ਡੇਟਾ ਸਾਇੰਸ ਅਤੇ ਸਿਮੂਲੇਸ਼ਨ
ਲਗਭਗ 41.0 TFLOPS ਸਟੈਂਡਰਡ ਫਲੋਟਿੰਗ-ਪੁਆਇੰਟ ਪ੍ਰਦਰਸ਼ਨ ਅਤੇ ਲਗਭਗ 1760 GB/s ਮੈਮੋਰੀ ਥ੍ਰੂਪੁੱਟ ਨਾਲ ਕੰਪਿਊਟ-ਗਹਿਰੀਆਂ ਸਿਮੂਲੇਸ਼ਨਾਂ ਅਤੇ ਡੇਟਾ ਪ੍ਰੋਸੈਸਿੰਗ ਕੰਮ ਚਲਾਓ।
ਕੀ ਇਹ ਤੁਹਾਡੇ ਲਈ ਸਹੀ GPU ਹੈ?
ਜਦੋਂ ਤੁਹਾਡੇ ਕੰਮਾਂ ਨੂੰ 80 GB VRAM, ਡੇਟਾਸੈਂਟਰ-ਗ੍ਰੇਡ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਅਤੇ Hopper compute capability 9.0 ਫੀਚਰਾਂ ਦੀ ਲੋੜ ਹੋਵੇ, ਤਾਂ H100 PCIE ਚੁਣੋ। ਹਲਕੇ ਇਨਫਰੈਂਸ ਜਾਂ ਛੋਟੇ ਮਾਡਲਾਂ ਲਈ ਘੱਟ VRAM ਵਾਲਾ ਵਰਕਸਟੇਸ਼ਨ ਜਾਂ ਕੰਜ਼ਿਊਮਰ GPU ਵਧੇਰੇ ਕਿਫਾਇਤੀ ਹੈ, ਜਦਕਿ ਬਹੁਤ ਉੱਚ ਥ੍ਰੂਪੁੱਟ ਦੀਆਂ ਲੋੜਾਂ ਲਈ SXM-ਅਧਾਰਿਤ ਡੇਟਾਸੈਂਟਰ ਵੇਰੀਐਂਟ ਢੁਕਵਾਂ ਹੋ ਸਕਦਾ ਹੈ।
ਮਿਲਦੇ-ਜੁਲਦੇ GPU ਨਾਲ ਤੁਲਨਾ ਕਰੋ
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਕੀ H100 PCIE LLM ਫਾਈਨ-ਟਿਊਨਿੰਗ ਅਤੇ ਇਨਫਰੈਂਸ ਲਈ ਢੁਕਵਾਂ ਹੈ?
ਹਾਂ, ਇਸਦੀ 80 GB VRAM ਅਤੇ ਲਗਭਗ 1760 GB/s ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਇਸਨੂੰ ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਹੋਸਟ ਕਰਨ ਅਤੇ ਟ੍ਰੇਨ ਕਰਨ ਲਈ ਚੰਗੀ ਤਰ੍ਹਾਂ ਢੁਕਵਾਂ ਬਣਾਉਂਦੀ ਹੈ। ਤੁਸੀਂ PyTorch/CUDA, vLLM ਜਾਂ Ollama ਲਈ ਪਹਿਲਾਂ ਤੋਂ ਸੰਰਚਿਤ ਟੈਮਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਤੁਰੰਤ ਸ਼ੁਰੂਆਤ ਕਰ ਸਕਦੇ ਹੋ।
H100 PCIE ਦੀ SXM ਜਾਂ ਛੋਟੇ ਵਰਕਸਟੇਸ਼ਨ GPU ਨਾਲ ਤੁਲਨਾ ਕਿਵੇਂ ਹੈ?
H100 PCIE 350 W TDP 'ਤੇ ਚੱਲਦਾ ਹੈ, ਜੋ ਉੱਚ-ਵਾਟ ਵਾਲੇ SXM ਡੇਟਾਸੈਂਟਰ ਵੇਰੀਐਂਟਾਂ ਦੇ ਮੁਕਾਬਲੇ ਘੱਟ ਬਿਜਲੀ ਖਪਤ ਅਤੇ ਸਟੈਂਡਰਡ PCIe ਅਨੁਕੂਲਤਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਵਰਕਸਟੇਸ਼ਨ ਜਾਂ ਕੰਜ਼ਿਊਮਰ ਕਾਰਡਾਂ ਦੇ ਮੁਕਾਬਲੇ, ਇਹ 80 GB ਦੀ ਕਾਫ਼ੀ ਵੱਧ VRAM ਅਤੇ ਉੱਚ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦਿੰਦਾ ਹੈ।
ਇਸ GPU ਵਿੱਚ ਕਿਹੜੀ ਸਾਫਟਵੇਅਰ ਸਹਾਇਤਾ ਅਤੇ compute capability ਹੈ?
NVIDIA Hopper ਆਰਕੀਟੈਕਚਰ 'ਤੇ ਅਧਾਰਿਤ ਹੋਣ ਕਰਕੇ, H100 PCIE CUDA compute capability 9.0 ਨੂੰ ਸਪੋਰਟ ਕਰਦਾ ਹੈ। ਤੁਸੀਂ PyTorch/CUDA ਅਤੇ ComfyUI ਸਮੇਤ ਤਿਆਰ ਟੈਮਪਲੇਟਾਂ ਨਾਲ ਇੰਸਟੈਂਸ ਲਾਂਚ ਕਰ ਸਕਦੇ ਹੋ, ਜਾਂ SSH ਪਹੁੰਚ ਰਾਹੀਂ ਆਪਣਾ ਸਟੈਕ ਸੰਰਚਿਤ ਕਰ ਸਕਦੇ ਹੋ।
ONIE 'ਤੇ H100 PCIE ਇੰਸਟੈਂਸਾਂ ਦੀ ਬਿਲਿੰਗ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ?
ONIE 'ਤੇ ਇੰਸਟੈਂਸ ਸਿੱਧੀ ਪ੍ਰਤੀ ਘੰਟਾ ਬਿਲਿੰਗ ਵਰਤਦੇ ਹਨ, ਇਸ ਲਈ ਤੁਸੀਂ ਸਿਰਫ਼ ਉਸ ਸਮੇਂ ਦਾ ਭੁਗਤਾਨ ਕਰਦੇ ਹੋ ਜਦੋਂ ਤੁਹਾਡਾ GPU ਸਰਗਰਮ ਹੁੰਦਾ ਹੈ। ਹਰ ਡਿਪਲੌਇਮੈਂਟ ਨਾਲ ਪੂਰੀ SSH ਪਹੁੰਚ ਸ਼ਾਮਲ ਹੈ।
H100 PCIE ਨੂੰ ਘੰਟੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਕਿਰਾਏ ’ਤੇ ਲਓ
ਖਾਤਾ ਬਣਾਓ, ਸੰਰਚਨਾ ਚੁਣੋ ਅਤੇ SSH ਰਾਹੀਂ ਜੁੜੋ। GPU ਮਿਟਾਉਣ ’ਤੇ ਬਿਲਿੰਗ ਬੰਦ ਹੋ ਜਾਂਦੀ ਹੈ।
H100 PCIE ਕਿਰਾਏ ’ਤੇ ਲਓ