ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ NVIDIA RTX 6000Ada GPU ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ
NVIDIA RTX 6000Ada ಒಂದು Ada Lovelace ಆರ್ಕಿಟೆಕ್ಚರ್ ವರ್ಕ್ಸ್ಟೇಷನ್ GPU ಆಗಿದ್ದು, ONIE ನಲ್ಲಿ ಬೇಡಿಕೆಯ ಮೇರೆಗೆ ಬಾಡಿಗೆಗೆ ಲಭ್ಯವಿದೆ. ಇದರಲ್ಲಿ 48 GB VRAM, ಸುಮಾರು 81.4 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಸುಮಾರು 764 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಇದ್ದು, ಇವೆಲ್ಲವೂ 300 W ವಿದ್ಯುತ್ ಹೊದಿಕೆಯೊಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ. ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ 8.9 ಹೊಂದಿರುವ ಇದು, ಮೆಮೊರಿ-ತೀವ್ರ ವೃತ್ತಿಪರ ಗ್ರಾಫಿಕ್ಸ್ ಮತ್ತು ಮೆಷಿನ್ ಲರ್ನಿಂಗ್ ಕಾರ್ಯಭಾರಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ.
ವಿವರಣೆಗಳು
ಪ್ರತಿ GPUಗೆ VRAM
ಆರ್ಕಿಟೆಕ್ಚರ್
ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ
FP32 ಕಂಪ್ಯೂಟ್
ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್
ಪವರ್ ಮಿತಿ
ಪ್ರಸ್ತುತ ಪಟ್ಟಿಮಾಡಲಾದ ಯಂತ್ರಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ವರದಿ ಮಾಡಿದ ಮೌಲ್ಯಗಳು; ನಿಜವಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಯಂತ್ರದಿಂದ ಯಂತ್ರಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ.
ಲಭ್ಯವಿರುವ ಸಂರಚನೆಗಳು
ನೇರ ಸ್ಟಾಕ್ ಮತ್ತು ಬೆಲೆಗಳು, ನಿರಂತರವಾಗಿ ನವೀಕರಿಸಲಾಗುತ್ತದೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಲಾಗುತ್ತದೆ.
ನೇರ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…
RTX 6000Ada ಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು
ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿ (LLM) ಇನ್‌ಫರೆನ್ಸ್
48 GB VRAM ಸಾಮರ್ಥ್ಯದ ಲಾಭ ಪಡೆಯುವ ಪೂರ್ವ-ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾದ vLLM ಅಥವಾ Ollama ಟೆಂಪ್ಲೇಟ್ಗಳನ್ನು ಬಳಸಿ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡಿ.
ಮಾದರಿ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮತ್ತು ತರಬೇತಿ
ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ 8.9 ಮತ್ತು PyTorch/CUDA ಟೆಂಪ್ಲೇಟ್ಗಳನ್ನು ಬಳಸಿ ದೊಡ್ಡ ಬ್ಯಾಚ್ ಗಾತ್ರಗಳೊಂದಿಗೆ ನ್ಯೂರಲ್ ನೆಟ್‌ವರ್ಕ್‌ಗಳನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಿ.
ಜನರೇಟಿವ್ ಮೀಡಿಯಾ ವರ್ಕ್‌ಫ್ಲೋಗಳು
ಹೈ-ರೆಸಲ್ಯೂಷನ್ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ರಚಿಸಲು ComfyUI ನಿಯೋಜಿಸಿ, ಸಂಕೀರ್ಣ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಮೆಮೊರಿಯಲ್ಲಿ ಇರಿಸಿಕೊಳ್ಳಿ.
ವರ್ಕ್ಸ್ಟೇಷನ್ ರೆಂಡರಿಂಗ್ ಮತ್ತು ಸಿಮ್ಯುಲೇಶನ್
ಸಂಕೀರ್ಣ ಸ್ಪೇಷಿಯಲ್ ರೆಂಡರಿಂಗ್ ಮತ್ತು ವೈಜ್ಞಾನಿಕ ಸಿಮ್ಯುಲೇಶನ್‌ಗಳಿಗಾಗಿ Ada Lovelace ಆರ್ಕಿಟೆಕ್ಚರ್ ಮತ್ತು ಸುಮಾರು 81.4 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಬಳಸಿಕೊಳ್ಳಿ.
ನಿಮಗೆ ಇದು ಸರಿಯಾದ GPU ಆಗಿದೆಯೇ?
ನಿಮ್ಮ ಕಾರ್ಯಭಾರವು ಗ್ರಾಹಕ GPU ಮೆಮೊರಿ ಮಿತಿಗಳನ್ನು ಮೀರಿದಾಗ ಮತ್ತು Ada Lovelace ಆರ್ಕಿಟೆಕ್ಚರ್ ವೈಶಿಷ್ಟ್ಯಗಳ ಜೊತೆಗೆ 48 GB VRAM ಅಗತ್ಯವಿದ್ದಾಗ RTX 6000Ada ಆಯ್ಕೆಮಾಡಿ. ಲೈಟ್‌ವೇಟ್ ಇನ್‌ಫರೆನ್ಸ್‌ಗಾಗಿ ಚಿಕ್ಕ ಗ್ರಾಹಕ GPU ಆಯ್ಕೆಮಾಡಿ, ಅಥವಾ ನಿಮ್ಮ ಮಾದರಿಗಳಿಗೆ ಇನ್ನೂ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಸಾಮರ್ಥ್ಯ ಅಥವಾ ಸುಮಾರು 764 GB/s ಗಿಂತ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಬೇಕಾದರೆ ಹೈ-ಮೆಮೊರಿ ಡೇಟಾಸೆಂಟರ್ GPU ಗೆ ಅಪ್‌ಗ್ರೇಡ್ ಮಾಡಿ.
ಇದೇ ರೀತಿಯ GPUಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ
ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು
RTX 6000Ada LLM ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ ಸೂಕ್ತವೇ?
ಹೌದು, ಇದರ 48 GB VRAM ಮತ್ತು ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ 8.9 ಸ್ಟ್ಯಾಂಡರ್ಡ್ ಗ್ರಾಹಕ ಕಾರ್ಡ್‌ಗಳಲ್ಲಿ ಹೊಂದದ ಮಧ್ಯಮದಿಂದ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡಲು ಮತ್ತು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲು ಇದನ್ನು ಚೆನ್ನಾಗಿ ಹೊಂದಿಸುತ್ತದೆ. vLLM, Ollama ಅಥವಾ PyTorch/CUDA ಗಾಗಿ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್ಗಳನ್ನು ಬಳಸಿ ONIE ನಲ್ಲಿ ಕಾರ್ಯಭಾರಗಳನ್ನು ತ್ವರಿತವಾಗಿ ನಿಯೋಜಿಸಬಹುದು.
ಈ ವರ್ಕ್ಸ್ಟೇಷನ್ GPU ಕನ್ಸ್ಯೂಮರ್ ಅಥವಾ ಡೇಟಾಸೆಂಟರ್ ಪರ್ಯಾಯಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಹೇಗಿದೆ?
RTX 6000Ada ಅದೇ Ada Lovelace ತಲೆಮಾರಿನ ಹೈ-ಎಂಡ್ ಕನ್ಸ್ಯೂಮರ್ ಕಾರ್ಡ್‌ಗಳಿಗಿಂತ ಎರಡರಷ್ಟು ಮೆಮೊರಿಯನ್ನು ನೀಡುತ್ತದೆ ಮತ್ತು 300 W TDP ಯಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಆದರೆ ನಿಮ್ಮ ಪ್ರಾಥಮಿಕ ಅಡಚಣೆ ಸಾಮರ್ಥ್ಯಕ್ಕಿಂತ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಆಗಿದ್ದರೆ, ಹೈ-ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಮೆಮೊರಿಯ ಹೈ-ಎಂಡ್ ಡೇಟಾಸೆಂಟರ್ GPU ಈ ಕಾರ್ಡ್‌ನ ಸುಮಾರು 764 GB/s ಗಿಂತ ವೇಗವಾದ ಡೇಟಾ ವರ್ಗಾವಣೆಯನ್ನು ಒದಗಿಸುತ್ತದೆ.
ನನ್ನ RTX 6000Ada ಇನ್ಸ್ಟೆನ್ಸ್ಗೆ ಹೇಗೆ ಸಂಪರ್ಕಿಸುವುದು ಮತ್ತು ಯಾವ ಸಾಫ್ಟ್ವೇರ್ ಒಳಗೊಂಡಿದೆ?
ಇನ್ಸ್ಟೆನ್ಸ್ ಒದಗಿಸಿದ ತಕ್ಷಣ ನಿಮಗೆ ಅದಕ್ಕೆ ಪೂರ್ಣ SSH ಪ್ರವೇಶ ಸಿಗುತ್ತದೆ. ONIE ಪೂರ್ವ-ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್ಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ, ಅವುಗಳಲ್ಲಿ PyTorch/CUDA, vLLM, Ollama ಮತ್ತು ComfyUI ಸೇರಿವೆ, ಆದ್ದರಿಂದ ಹಸ್ತಚಾಲಿತ ಡ್ರೈವರ್ ಸೆಟಪ್ ಇಲ್ಲದೆ ನೀವು ಕೆಲಸ ಪ್ರಾರಂಭಿಸಬಹುದು.
RTX 6000Ada ಬಾಡಿಗೆಗೆ ಪಡೆಯುವ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?
ONIE ನಲ್ಲಿ ಇನ್ಸ್ಟೆನ್ಸ್ಗಳು ಸರಳ ಗಂಟೆವಾರು ಬಿಲ್ಲಿಂಗ್ ಬಳಸುತ್ತವೆ. ನಿಮ್ಮ ವರ್ಕ್ಸ್ಟೇಷನ್ GPU ಇನ್ಸ್ಟೆನ್ಸ್ ಸಕ್ರಿಯವಾಗಿರುವ ಸಮಯಕ್ಕೆ ಮಾತ್ರ ನೀವು ಪಾವತಿಸುತ್ತೀರಿ.
RTX 6000Ada ಅನ್ನು ಗಂಟೆಯ ದರದಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ
ಖಾತೆ ರಚಿಸಿ, ಸಂರಚನೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. GPU ಅಳಿಸಿದಾಗ ಬಿಲ್ಲಿಂಗ್ ನಿಲ್ಲುತ್ತದೆ.
RTX 6000Ada ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ