ಲಾಗ್ ಇನ್
GPU Cloud · NVIDIA · Blackwell

ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ NVIDIA RTX PRO 4000 GPU ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

NVIDIA RTX PRO 4000 ಎಂಬುದು ONIE ನಲ್ಲಿ ಲಭ್ಯವಿರುವ Blackwell ಆರ್ಕಿಟೆಕ್ಚರ್ ಆಧಾರಿತ ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಆಗಿದ್ದು, 24 GB VRAM ಮತ್ತು CUDA ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ 12.0 ಹೊಂದಿದೆ. ಇದು 145 W TDP ನಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಾ ಸುಮಾರು 44.3 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಸುಮಾರು 529 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಒದಗಿಸುತ್ತದೆ. ಪ್ರತಿ ಗಂಟೆಗೆ ಬಿಲ್ಲಿಂಗ್, ಪೂರ್ಣ SSH ಪ್ರವೇಶ, ಮತ್ತು PyTorch/CUDA, vLLM, Ollama, ಹಾಗೂ ComfyUI ಗಾಗಿ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳೊಂದಿಗೆ ನೀವು ಇದನ್ನು ನಿಯೋಜಿಸಬಹುದು.

RTX PRO 4000 ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ವಿವರಣೆಗಳು

ಪ್ರತಿ GPUಗೆ VRAM

24 GB

ಆರ್ಕಿಟೆಕ್ಚರ್

NVIDIA Blackwell

ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ

12.0

FP32 ಕಂಪ್ಯೂಟ್

≈ 44.3 TFLOPS

ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್

≈ 529 GB/s

ಪವರ್ ಮಿತಿ

145 W

ಪ್ರಸ್ತುತ ಪಟ್ಟಿಮಾಡಲಾದ ಯಂತ್ರಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ವರದಿ ಮಾಡಿದ ಮೌಲ್ಯಗಳು; ನಿಜವಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಯಂತ್ರದಿಂದ ಯಂತ್ರಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ.

ಲಭ್ಯವಿರುವ ಸಂರಚನೆಗಳು

ನೇರ ಸ್ಟಾಕ್ ಮತ್ತು ಬೆಲೆಗಳು, ನಿರಂತರವಾಗಿ ನವೀಕರಿಸಲಾಗುತ್ತದೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಲಾಗುತ್ತದೆ.

ನೇರ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…

RTX PRO 4000 ಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು

ಸ್ಥಳೀಯ LLM ಇನ್ಫರೆನ್ಸ್

24 GB ಮೆಮೊರಿ ಸಾಮರ್ಥ್ಯದೊಳಗೆ Ollama ಅಥವಾ vLLM ಬಳಸಿ ಕ್ವಾಂಟೈಸ್ಡ್ ಅಥವಾ ಮಧ್ಯಮ ಗಾತ್ರದ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸಿ.

ಜನರೇಟಿವ್ ಮೀಡಿಯಾ ವರ್ಕ್‌ಫ್ಲೋಗಳು

ಚಿಕ್ಕ ಕಾರ್ಡ್‌ಗಳಲ್ಲಿ ಸಾಮಾನ್ಯವಾಗಿ ಎದುರಾಗುವ ಮೆಮೊರಿ ಮಿತಿಗಳಿಲ್ಲದೆ ComfyUI ನಲ್ಲಿ ಚಿತ್ರ ಮತ್ತು ವೀಡಿಯೊ ಜನರೇಶನ್ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ಚಲಾಯಿಸಿ.

ಮಾಡೆಲ್ ಪ್ರೋಟೋಟೈಪಿಂಗ್ ಮತ್ತು ಟ್ಯೂನಿಂಗ್

Blackwell ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ 12.0 ಅನ್ನು ಬಳಸಿಕೊಂಡು PyTorch/CUDA ನಲ್ಲಿ ಡೀಪ್ ಲರ್ನಿಂಗ್ ಮಾದರಿಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಿ.

ವರ್ಕ್‌ಸ್ಟೇಷನ್ ರೆಂಡರಿಂಗ್ ಮತ್ತು ಕಂಪ್ಯೂಟ್

ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಡ್ರೈವರ್‌ಗಳು ಮತ್ತು ಸುಮಾರು 529 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್‌ನಿಂದ ಪ್ರಯೋಜನ ಪಡೆಯುವ ವೃತ್ತಿಪರ ಗ್ರಾಫಿಕ್ಸ್, ಸಿಮ್ಯುಲೇಶನ್ ಮತ್ತು ರೆಂಡರಿಂಗ್ ಕಾರ್ಯಭಾರಗಳನ್ನು ನಿರ್ವಹಿಸಿ.

ನಿಮಗೆ ಇದು ಸರಿಯಾದ GPU ಆಗಿದೆಯೇ?

ಅಭಿವೃದ್ಧಿ, ರೆಂಡರಿಂಗ್ ಅಥವಾ ಮಧ್ಯಮ AI ಕಾರ್ಯಭಾರಗಳಿಗಾಗಿ 24 GB VRAM ಇರುವ ಆಧುನಿಕ Blackwell ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಕಾರ್ಡ್ ಬೇಕಾದರೆ RTX PRO 4000 ಆಯ್ಕೆಮಾಡಿ. ಹಗುರ ಇನ್ಫರೆನ್ಸ್ ಮತ್ತು ಮೂಲ ಪರೀಕ್ಷೆಗಾಗಿ ಚಿಕ್ಕ GPU ಆಯ್ಕೆಮಾಡಿ, ಅಥವಾ ನಿಮ್ಮ ತರಬೇತಿ ಪೈಪ್‌ಲೈನ್‌ಗಳಿಗೆ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಸಾಮರ್ಥ್ಯ ಅಥವಾ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಅಗತ್ಯವಿದ್ದರೆ ದೊಡ್ಡ ಡೇಟಾಸೆಂಟರ್ GPU ಗೆ ಬದಲಿಸಿ.

ಇದೇ ರೀತಿಯ GPUಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ

GPUಪ್ರತಿ GPUಗೆ VRAMಆರ್ಕಿಟೆಕ್ಚರ್FP32 ಕಂಪ್ಯೂಟ್ಪ್ರತಿ ಗಂಟೆಗೆ ಆರಂಭವಿವರಗಳು
RTX PRO 400024 GBBlackwell≈ 44.3 TFLOPS—
RTX 4500Ada24 GBAda Lovelace≈ 38.2 TFLOPS—ವಿವರಗಳು
RTX 3090 Ti24 GBAmpere≈ 36.4 TFLOPS—ವಿವರಗಳು
RTX 309024 GBAmpere≈ 35.4 TFLOPS—ವಿವರಗಳು

ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

RTX PRO 4000 LLM ಇನ್ಫರೆನ್ಸ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ ಸೂಕ್ತವೇ?

ಹೌದು, ಇದರ 24 GB VRAM ಮತ್ತು ಸುಮಾರು 529 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಕಾರಣ ಇದು ಸಣ್ಣ ಮತ್ತು ಮಧ್ಯಮ ಗಾತ್ರದ ಭಾಷಾ ಮಾದರಿಗಳ ಮೇಲೆ ಇನ್ಫರೆನ್ಸ್ ಮತ್ತು LoRA ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ನಡೆಸಲು ಸಮರ್ಥವಾಗಿದೆ. ದೊಡ್ಡ ಮಾದರಿಗಳ ಸಂಪೂರ್ಣ-ಪ್ಯಾರಾಮೀಟರ್ ತರಬೇತಿಗಾಗಿ ಹೆಚ್ಚಿನ VRAM ಇರುವ GPU ಶಿಫಾರಸು ಮಾಡಲಾಗುತ್ತದೆ.

ONIE ನಲ್ಲಿ ಈ GPU ಗಾಗಿ ಯಾವ ಸಾಫ್ಟ್‌ವೇರ್ ಟೆಂಪ್ಲೇಟ್‌ಗಳು ಲಭ್ಯವಿವೆ?

PyTorch/CUDA, vLLM, Ollama ಮತ್ತು ComfyUI ಸೇರಿದಂತೆ ಪೂರ್ವ-ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾದ ಟೆಂಪ್ಲೇಟ್‌ಗಳೊಂದಿಗೆ ನೀವು RTX PRO 4000 ಅನ್ನು ಆರಂಭಿಸಬಹುದು. ನಿಮ್ಮ ಪರಿಸರವನ್ನು ಕಸ್ಟಮೈಸ್ ಮಾಡಲು ಮತ್ತು ಹೆಚ್ಚುವರಿ ಅವಲಂಬನೆಗಳನ್ನು ಇನ್‌ಸ್ಟಾಲ್ ಮಾಡಲು ಪೂರ್ಣ SSH ಪ್ರವೇಶ ಸೇರಿದೆ.

ಈ Blackwell ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಚಿಕ್ಕ ಅಥವಾ ದೊಡ್ಡ ಆಯ್ಕೆಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಹೇಗಿದೆ?

CUDA ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ 12.0, 24 GB VRAM, ಮತ್ತು 145 W ನಲ್ಲಿ ಸುಮಾರು 44.3 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಂಪ್ಯೂಟ್ ಹೊಂದಿರುವ ಇದು, ಆಧುನಿಕ ಆರ್ಕಿಟೆಕ್ಚರ್ ಬೆಂಬಲ ಮತ್ತು ಎಂಟ್ರಿ-ಲೆವೆಲ್ ಕಾರ್ಡ್‌ಗಳಿಗಿಂತ ಹೆಚ್ಚಿನ ಮೆಮೊರಿಯನ್ನು ಒದಗಿಸುತ್ತದೆ. ದೊಡ್ಡ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಅಥವಾ ಡೇಟಾಸೆಂಟರ್ GPU ಗಳು ಭಾರೀ ಸಮಾನಾಂತರ ಕಾರ್ಯಭಾರಗಳಿಗಾಗಿ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಒದಗಿಸುತ್ತವೆ.

RTX PRO 4000 ಗೆ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ?

ONIE ನಲ್ಲಿರುವ ಇನ್‌ಸ್ಟೆನ್ಸ್‌ಗಳು ಪ್ರತಿ ಗಂಟೆಗೆ ಬಿಲ್ಲಿಂಗ್ ಬಳಸುತ್ತವೆ; ನಿಮ್ಮ ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಸಕ್ರಿಯವಾಗಿರುವ ಸಮಯಕ್ಕೆ ಮಾತ್ರ ಪಾವತಿಸಬಹುದು.

RTX PRO 4000 ಅನ್ನು ಗಂಟೆಯ ದರದಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಖಾತೆ ರಚಿಸಿ, ಸಂರಚನೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. GPU ಅಳಿಸಿದಾಗ ಬಿಲ್ಲಿಂಗ್ ನಿಲ್ಲುತ್ತದೆ.

RTX PRO 4000 ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಎಲ್ಲಾ GPUಗಳು →