ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ NVIDIA GTX 1080 Ti GPU ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ
NVIDIA GTX 1080 Ti ಒಂದು ಗ್ರಾಹಕ GPU ಆಗಿದ್ದು, Pascal ವಾಸ್ತುಶಿಲ್ಪದ ಮೇಲೆ ನಿರ್ಮಿತವಾಗಿದೆ ಮತ್ತು 11 GB VRAM ಹೊಂದಿದೆ. ಇದು 250 W ವಿದ್ಯುತ್ ವ್ಯಾಪ್ತಿಯಲ್ಲಿ ಸುಮಾರು 11.0 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಸುಮಾರು 339 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ನೀಡುತ್ತದೆ. ನೀವು ಈ GPU ಅನ್ನು ONIE ನಲ್ಲಿ ಪ್ರತಿ-ಗಂಟೆ ಬಿಲ್ಲಿಂಗ್, SSH ಪ್ರವೇಶ ಮತ್ತು ಬಳಕೆಗೆ ಸಿದ್ಧ ಸಾಫ್ಟ್‌ವೇರ್ ಟೆಂಪ್ಲೇಟ್‌ಗಳೊಂದಿಗೆ ಬಾಡಿಗೆಗೆ ಪಡೆಯಬಹುದು.
ವಿವರಣೆಗಳು
ಪ್ರತಿ GPUಗೆ VRAM
ಆರ್ಕಿಟೆಕ್ಚರ್
ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ
FP32 ಕಂಪ್ಯೂಟ್
ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್
ಪವರ್ ಮಿತಿ
ಪ್ರಸ್ತುತ ಪಟ್ಟಿಮಾಡಲಾದ ಯಂತ್ರಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ವರದಿ ಮಾಡಿದ ಮೌಲ್ಯಗಳು; ನಿಜವಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಯಂತ್ರದಿಂದ ಯಂತ್ರಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ.
ಲಭ್ಯವಿರುವ ಸಂರಚನೆಗಳು
ನೇರ ಸ್ಟಾಕ್ ಮತ್ತು ಬೆಲೆಗಳು, ನಿರಂತರವಾಗಿ ನವೀಕರಿಸಲಾಗುತ್ತದೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಲಾಗುತ್ತದೆ.
ನೇರ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…
GTX 1080 Ti ಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು
ಪ್ರಾಯೋಗಿಕ ಮಾದರಿ ಮತ್ತು ಕೋಡ್ ಪರೀಕ್ಷೆ
compute capability 6.1 ಹೊಂದಿರುವ Pascal ವಾಸ್ತುಶಿಲ್ಪದ ಕಾರ್ಡ್‌ನಲ್ಲಿ PyTorch/CUDA ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ಪರೀಕ್ಷಿಸಿ ಮತ್ತು ಡೀಬಗ್ ಮಾಡಿ.
ಹಗುರ ಮಾದರಿ ಇನ್‌ಫರೆನ್ಸ್
Ollama ಅಥವಾ vLLM ಟೆಂಪ್ಲೇಟ್‌ಗಳ ಮೂಲಕ 11 GB ಮೆಮೊರಿ ಮಿತಿಯೊಳಗೆ ಹೊಂದುವ ಸಣ್ಣ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸಿ.
ಸಾಮಾನ್ಯ ಚಿತ್ರ ಉತ್ಪಾದನೆ
ಆಧುನಿಕ ಟೆನ್ಸರ್ ಕೋರ್‌ಗಳ ಅಗತ್ಯವಿಲ್ಲದ ಮೂಲ ಚಿತ್ರ ಸಂಶ್ಲೇಷಣಾ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ಚಲಾಯಿಸಲು ComfyUI ಟೆಂಪ್ಲೇಟ್ ಬಳಸಿ.
ಶಾಸ್ತ್ರೀಯ ಡೀಪ್ ಲರ್ನಿಂಗ್ ತರಬೇತಿ
ಸುಮಾರು 11.0 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಂಪ್ಯೂಟ್ ಬಳಸಿ ಮೂಲಭೂತ ನ್ಯೂರಲ್ ನೆಟ್‌ವರ್ಕ್‌ಗಳು ಮತ್ತು ಕಂಪ್ಯೂಟರ್ ವಿಷನ್ ಮಾದರಿಗಳಿಗೆ ತರಬೇತಿ ನೀಡಿ.
ನಿಮಗೆ ಇದು ಸರಿಯಾದ GPU ಆಗಿದೆಯೇ?
ಲೆಗಸಿ ಕೆಲಸದ ಹೊರೆಗಳು, ಕೋಡ್ ಪರೀಕ್ಷೆ ಅಥವಾ Pascal ಪೀಳಿಗೆಯ ಗ್ರಾಹಕ ಕಾರ್ಡ್‌ನಲ್ಲಿ ಸಣ್ಣ ಪ್ರಮಾಣದ ಇನ್‌ಫರೆನ್ಸ್‌ಗಾಗಿ 11 GB VRAM ಬೇಕಾದಾಗ GTX 1080 Ti ಆಯ್ಕೆಮಾಡಿ. ದೊಡ್ಡ ಮಾದರಿಗಳು ಅಥವಾ ಆಧುನಿಕ ಮಿಕ್ಸ್ಡ್-ಪ್ರಿಸಿಷನ್ ಕೆಲಸದ ಹೊರೆಗಳಿಗೆ ಹೆಚ್ಚು ಮೆಮೊರಿಯ ಹೊಸ GPU ಆಯ್ಕೆಮಾಡಿ, ಅಥವಾ ನಿಮ್ಮ ಕಾರ್ಯಕ್ಕೆ ಕನಿಷ್ಠ VRAM ಸಾಕಾದರೆ ಸಣ್ಣ ಗ್ರಾಹಕ GPU ಆಯ್ಕೆಮಾಡಿ.
ಇದೇ ರೀತಿಯ GPUಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ
ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು
ಆಧುನಿಕ LLM ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ GTX 1080 Ti ಸೂಕ್ತವೇ?
11 GB VRAM ಮತ್ತು compute capability 6.1 ಹೊಂದಿರುವ Pascal ವಾಸ್ತುಶಿಲ್ಪದೊಂದಿಗೆ, ಇದು Ollama ನಂತಹ ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಬಳಸಿ ಕ್ವಾಂಟೈಸ್ ಮಾಡಿದ ಸಣ್ಣ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸಬಹುದು. ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಅಥವಾ ಹೊಸ ವಾಸ್ತುಶಿಲ್ಪದ ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಅವಲಂಬಿಸಿರುವ ಕೆಲಸದ ಹೊರೆಗಳಿಗೆ, ಹೆಚ್ಚಿನ VRAM ಇರುವ ಆಧುನಿಕ GPU ಶಿಫಾರಸು ಮಾಡಲಾಗುತ್ತದೆ.
ಈ GPU ಗಾಗಿ ONIE ನಲ್ಲಿ ಯಾವ ಸಾಫ್ಟ್‌ವೇರ್ ಟೆಂಪ್ಲೇಟ್‌ಗಳು ಲಭ್ಯವಿವೆ?
ONIE PyTorch/CUDA, vLLM, Ollama ಮತ್ತು ComfyUI ಸೇರಿದಂತೆ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ. ನಿಮ್ಮ ಸ್ವಂತ ಪರಿಸರವನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಲು ಪೂರ್ಣ SSH ಪ್ರವೇಶವೂ ಲಭ್ಯವಿದೆ.
ಈ ಕಾರ್ಡ್‌ನ ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಹೇಗೆ ಅಳೆಯಲಾಗುತ್ತದೆ?
ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ಸುಮಾರು 11.0 TFLOPS ಸಿಂಗಲ್-ಪ್ರಿಸಿಷನ್ ಕಂಪ್ಯೂಟ್ ಅನ್ನು ವರದಿ ಮಾಡುತ್ತಾರೆ ಮತ್ತು ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಅನ್ನು ಸುಮಾರು 339 GB/s ಎಂದು ಅಳೆಯುತ್ತಾರೆ. ಕಾರ್ಡ್ 250 W ಉಷ್ಣ ವಿನ್ಯಾಸ ಶಕ್ತಿಯಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.
GTX 1080 Ti ಬಾಡಿಗೆಗೆ ಪಡೆದಾಗ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?
ONIE ನಲ್ಲಿ ಬಾಡಿಗೆಗಳು ಪ್ರತಿ-ಗಂಟೆ ಬಿಲ್ಲಿಂಗ್ ಅನ್ನು ಬಳಸುತ್ತವೆ, ಇದರಿಂದ ನಿಮ್ಮ ಇನ್‌ಸ್ಟೆನ್ಸ್ ಸಕ್ರಿಯವಾಗಿರುವ ಸಮಯಕ್ಕೆ ಮಾತ್ರ ಪಾವತಿಸಬಹುದು.
GTX 1080 Ti ಅನ್ನು ಗಂಟೆಯ ದರದಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ
ಖಾತೆ ರಚಿಸಿ, ಸಂರಚನೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. GPU ಅಳಿಸಿದಾಗ ಬಿಲ್ಲಿಂಗ್ ನಿಲ್ಲುತ್ತದೆ.
GTX 1080 Ti ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ