ಲಾಗ್ ಇನ್
GPU Cloud · NVIDIA · Blackwell

ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ NVIDIA RTX 6000D GPU ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

NVIDIA RTX 6000D ಒಂದು Blackwell ಆರ್ಕಿಟೆಕ್ಚರ್ ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಆಗಿದ್ದು, ಇದರಲ್ಲಿ 84 GB VRAM ಮತ್ತು compute capability 12.0 ಇದೆ. ಇದು 600 W ವಿದ್ಯುತ್ ಮಿತಿಯಲ್ಲಿ ಸುಮಾರು 77.6 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಸುಮಾರು 1222 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಒದಗಿಸುತ್ತದೆ. ಈ ಕಾರ್ಡ್ ಅನ್ನು ONIE ನಲ್ಲಿ ಪ್ರತಿ-ಗಂಟೆ ಬಿಲ್ಲಿಂಗ್, ಪೂರ್ಣ SSH ಪ್ರವೇಶ ಮತ್ತು PyTorch/CUDA, vLLM, Ollama, ComfyUI ಗಾಗಿ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳೊಂದಿಗೆ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ.

RTX 6000D ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ವಿವರಣೆಗಳು

ಪ್ರತಿ GPUಗೆ VRAM

84 GB

ಆರ್ಕಿಟೆಕ್ಚರ್

NVIDIA Blackwell

ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ

12.0

FP32 ಕಂಪ್ಯೂಟ್

≈ 77.6 TFLOPS

ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್

≈ 1,222 GB/s

ಪವರ್ ಮಿತಿ

600 W

ಪ್ರಸ್ತುತ ಪಟ್ಟಿಮಾಡಲಾದ ಯಂತ್ರಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ವರದಿ ಮಾಡಿದ ಮೌಲ್ಯಗಳು; ನಿಜವಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಯಂತ್ರದಿಂದ ಯಂತ್ರಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ.

ಲಭ್ಯವಿರುವ ಸಂರಚನೆಗಳು

ನೇರ ಸ್ಟಾಕ್ ಮತ್ತು ಬೆಲೆಗಳು, ನಿರಂತರವಾಗಿ ನವೀಕರಿಸಲಾಗುತ್ತದೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಲಾಗುತ್ತದೆ.

ನೇರ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…

RTX 6000D ಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು

ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿ (LLM) ಇನ್‌ಫರೆನ್ಸ್

vLLM ಅಥವಾ Ollama ಬಳಸಿ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಮತ್ತು ವಿಸ್ತೃತ ಸಂದರ್ಭ ವಿಂಡೋಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ 84 GB ಮೆಮೊರಿ ಬಫರ್‌ನೊಳಗೆ ರನ್ ಮಾಡಿ.

ಮಾದರಿ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮತ್ತು ತರಬೇತಿ

compute capability 12.0 ಮತ್ತು ಸುಮಾರು 77.6 TFLOPS ಕಂಪ್ಯೂಟ್ ಬಳಸಿ PyTorch/CUDA ನಲ್ಲಿ ಕಸ್ಟಮ್ ತರಬೇತಿ ರನ್‌ಗಳನ್ನು ಆಗಾಗ್ಗೆ ಔಟ್-ಆಫ್-ಮೆಮೊರಿ ದೋಷಗಳಿಲ್ಲದೆ ನಡೆಸಿ.

ಹೈ-ರೆಸೊಲ್ಯೂಷನ್ ಜನರೇಟಿವ್ ಮೀಡಿಯಾ

ಒಂದೇ ಸಮಯದಲ್ಲಿ VRAM ನಲ್ಲಿ ಹಲವು ControlNet ಗಳು ಮತ್ತು ಕ್ವಾಂಟೈಸ್ ಮಾಡದ ಡಿಫ್ಯೂಷನ್ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗಳನ್ನು ಲೋಡ್ ಮಾಡಿ ಸಂಕೀರ್ಣ ComfyUI ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ನಡೆಸಿ.

ಭಾರೀ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ರೆಂಡರಿಂಗ್

ಸುಮಾರು 1222 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಬೆಂಬಲದೊಂದಿಗೆ ವಿವರವಾದ ದೃಶ್ಯ ಜ್ಯಾಮಿತಿ ಮತ್ತು ದೊಡ್ಡ ಟೆಕ್ಸ್ಚರ್ ಕ್ಯಾಶ್‌ಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಿ.

ನಿಮಗೆ ಇದು ಸರಿಯಾದ GPU ಆಗಿದೆಯೇ?

ನಿಮ್ಮ ಕೆಲಸದ ಹೊರೆಗಳಿಗೆ ಅದರ 84 GB VRAM ಸಾಮರ್ಥ್ಯ ಮತ್ತು Blackwell ಆರ್ಕಿಟೆಕ್ಚರ್ ವೈಶಿಷ್ಟ್ಯಗಳು ಒಂದೇ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಕಾರ್ಡ್‌ನಲ್ಲಿ ಬೇಕಾದರೆ RTX 6000D ಆಯ್ಕೆಮಾಡಿ. ಹಗುರ ಇನ್‌ಫರೆನ್ಸ್‌ಗಾಗಿ ವೆಚ್ಚ ಕಡಿಮೆ ಮಾಡಲು ಚಿಕ್ಕ ಕನ್ಸ್ಯೂಮರ್ ಅಥವಾ ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಆಯ್ಕೆಮಾಡಿ, ಅಥವಾ ನಿಮ್ಮ ವರ್ಕ್‌ಫ್ಲೋಗೆ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಬೇಕಾದರೆ ಡೇಟಾಸೆಂಟರ್ GPU ಗೆ ಬದಲಿಸಿ.

ಇದೇ ರೀತಿಯ GPUಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ

GPUಪ್ರತಿ GPUಗೆ VRAMಆರ್ಕಿಟೆಕ್ಚರ್FP32 ಕಂಪ್ಯೂಟ್ಪ್ರತಿ ಗಂಟೆಗೆ ಆರಂಭವಿವರಗಳು
RTX 6000D84 GBBlackwell≈ 77.6 TFLOPS—
RTX PRO 6000 S96 GBBlackwell≈ 93.6 TFLOPS—ವಿವರಗಳು
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—ವಿವರಗಳು
H100 SXM80 GBHopper≈ 53.5 TFLOPS—ವಿವರಗಳು

ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

LLM ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ RTX 6000D ಸೂಕ್ತವೇ?

ಹೌದು, ಅದರ 84 GB VRAM ಮತ್ತು ಸುಮಾರು 1222 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ದೊಡ್ಡ ವೇಟ್‌ಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಲು ಮತ್ತು ಮಾದರಿಗಳನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲು ಇದನ್ನು ಚೆನ್ನಾಗಿ ಸೂಕ್ತವಾಗಿಸುತ್ತವೆ. ನಮ್ಮ ಪೂರ್ವ-ಕಾನ್ಫಿಗರ್ ಮಾಡಿದ vLLM ಮತ್ತು Ollama ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಬಳಸಿ ತಕ್ಷಣ ಇನ್‌ಫರೆನ್ಸ್ ಸರ್ವರ್‌ಗಳನ್ನು ನಿಯೋಜಿಸಬಹುದು.

ಮೆಮೊರಿ ಮತ್ತು ಕಂಪ್ಯೂಟ್‌ನಲ್ಲಿ RTX 6000D ಇತರ GPU ಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಹೇಗಿದೆ?

84 GB VRAM ಮತ್ತು compute capability 12.0 ಹೊಂದಿರುವ Blackwell ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಆಗಿ, ಇದು ಸಾಮಾನ್ಯ ಕನ್ಸ್ಯೂಮರ್ ಕಾರ್ಡ್‌ಗಳು ಮತ್ತು ಹಿಂದಿನ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಪೀಳಿಗೆಗಳಿಗಿಂತ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ನೀಡುತ್ತದೆ. ಆದರೆ, ವಿಶೇಷ ಡೇಟಾಸೆಂಟರ್ GPU ಗಳು ಸುಮಾರು 1222 GB/s ಗಿಂತ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಒದಗಿಸಬಹುದು.

ONIE ನಲ್ಲಿ ನನ್ನ RTX 6000D ಇನ್‌ಸ್ಟೆನ್ಸ್‌ಗೆ ಹೇಗೆ ಸಂಪರ್ಕಿಸುವುದು?

ನಿಮ್ಮ ಇನ್‌ಸ್ಟೆನ್ಸ್ ಚಾಲನೆಯಲ್ಲಿದ್ದ ನಂತರ ನೇರವಾಗಿ SSH ಪ್ರವೇಶದ ಮೂಲಕ ಸಂಪರ್ಕಿಸಬಹುದು. ತಕ್ಷಣ ಕೆಲಸ ಆರಂಭಿಸಲು PyTorch/CUDA, ComfyUI, vLLM ಮತ್ತು Ollama ಗಾಗಿ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನೂ ನಾವು ಒದಗಿಸುತ್ತೇವೆ.

ಈ GPU ಗೆ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?

ONIE ನಲ್ಲಿ ಇನ್‌ಸ್ಟೆನ್ಸ್‌ಗಳಿಗೆ ಪ್ರತಿ-ಗಂಟೆ ಬಿಲ್ಲಿಂಗ್ ಇದೆ. ನಿಮ್ಮ RTX 6000D ಪರಿಸರ ಸಕ್ರಿಯವಾಗಿರುವ ಸಮಯಕ್ಕೆ ಮಾತ್ರ ನೀವು ಪಾವತಿಸುತ್ತೀರಿ.

RTX 6000D ಅನ್ನು ಗಂಟೆಯ ದರದಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಖಾತೆ ರಚಿಸಿ, ಸಂರಚನೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. GPU ಅಳಿಸಿದಾಗ ಬಿಲ್ಲಿಂಗ್ ನಿಲ್ಲುತ್ತದೆ.

RTX 6000D ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಎಲ್ಲಾ GPUಗಳು →