ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ NVIDIA RTX 3060 laptop GPU ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ
NVIDIA RTX 3060 laptop ಒಂದು ಗ್ರಾಹಕ-ವಿಭಾಗದ GPU ಆಗಿದ್ದು, ಇದು Ampere ಆರ್ಕಿಟೆಕ್ಚರ್ ಮೇಲೆ ನಿರ್ಮಿತವಾಗಿದೆ ಮತ್ತು compute capability 8.6 ಹೊಂದಿದೆ. ಇದು 80 W ವಿದ್ಯುತ್ ಮಿತಿಯೊಳಗೆ 12 GB VRAM, ಸುಮಾರು 12.9 TFLOPS ಏಕ-ನಿಖರತೆಯ (single-precision) ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಸುಮಾರು 299 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಒದಗಿಸುತ್ತದೆ. ONIE ನಲ್ಲಿ, ನೀವು ಪ್ರತಿ ಗಂಟೆಯ ಬಿಲ್ಲಿಂಗ್, SSH ಪ್ರವೇಶ ಮತ್ತು PyTorch/CUDA, vLLM, Ollama ಹಾಗೂ ComfyUI ಸೇರಿದಂತೆ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳೊಂದಿಗೆ ಈ GPU ಅನ್ನು ಬಾಡಿಗೆಗೆ ಪಡೆಯಬಹುದು.
ವಿವರಣೆಗಳು
ಪ್ರತಿ GPUಗೆ VRAM
ಆರ್ಕಿಟೆಕ್ಚರ್
ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ
FP32 ಕಂಪ್ಯೂಟ್
ಮೆಮೊರಿ ಬ್ಯಾಂಡ್ವಿಡ್ತ್
ಪವರ್ ಮಿತಿ
ಪ್ರಸ್ತುತ ಪಟ್ಟಿಮಾಡಲಾದ ಯಂತ್ರಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ವರದಿ ಮಾಡಿದ ಮೌಲ್ಯಗಳು; ನಿಜವಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಯಂತ್ರದಿಂದ ಯಂತ್ರಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ.
ಲಭ್ಯವಿರುವ ಸಂರಚನೆಗಳು
ನೇರ ಸ್ಟಾಕ್ ಮತ್ತು ಬೆಲೆಗಳು, ನಿರಂತರವಾಗಿ ನವೀಕರಿಸಲಾಗುತ್ತದೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಲಾಗುತ್ತದೆ.
ನೇರ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…
RTX 3060 laptop ಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು
ಕಾಂಪ್ಯಾಕ್ಟ್ LLM ಇನ್‌ಫರೆನ್ಸ್
ಪೂರ್ವ-ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾದ Ollama ಅಥವಾ vLLM ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು 12 GB VRAM ಒಳಗೆ ಹೊಂದುವ ಕ್ವಾಂಟೈಸ್ಡ್ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡಿ.
ಚಿತ್ರ ಉತ್ಪಾದನಾ ಕಾರ್ಯಪ್ರವಾಹಗಳು
Ampere ಗ್ರಾಹಕ GPU ಮೇಲೆ ComfyUI ಟೆಂಪ್ಲೇಟ್ ಬಳಸಿ ಚಿತ್ರಗಳನ್ನು ಉತ್ಪಾದಿಸಿ ಮತ್ತು diffusion ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ಪರೀಕ್ಷಿಸಿ.
PyTorch ಪ್ರೋಟೋಟೈಪಿಂಗ್ ಮತ್ತು ಡಿಬಗ್ಗಿಂಗ್
PyTorch/CUDA ಟೆಂಪ್ಲೇಟ್ ಮತ್ತು compute capability 8.6 ಬೆಂಬಲದೊಂದಿಗೆ SSH ಮೂಲಕ ಯಂತ್ರ ಕಲಿಕೆ ಕೋಡ್ ಅಭಿವೃದ್ಧಿಪಡಿಸಿ ಮತ್ತು ಪರೀಕ್ಷಿಸಿ.
ಹಗುರ ಮಾದರಿ ಫೈನ್-ಟ್ಯೂನಿಂಗ್
12 GB ಮೆಮೊರಿ ಮತ್ತು ಸುಮಾರು 299 GB/s ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಸಾಕಾಗುವ ಸಣ್ಣ ಡೇಟಾಸೆಟ್‌ಗಳ ಮೇಲೆ parameter-efficient ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮಾಡಿ.
ನಿಮಗೆ ಇದು ಸರಿಯಾದ GPU ಆಗಿದೆಯೇ?
ಹೆಚ್ಚಿನ ವಿದ್ಯುತ್ ಬಳಕೆ ಅಗತ್ಯವಿಲ್ಲದೆ 12 GB VRAM ಒಳಗೆ ಹೊಂದುವ ಆರಂಭಿಕ ಹಂತದ ಅಭಿವೃದ್ಧಿ, ಪರೀಕ್ಷೆ ಮತ್ತು ಇನ್‌ಫರೆನ್ಸ್ ಕಾರ್ಯಭಾರಗಳಿಗೆ RTX 3060 laptop ಆಯ್ಕೆಮಾಡಿ. ನಿಮಗೆ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಅಥವಾ ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಹೆಚ್ಚಿನ VRAM ಅಗತ್ಯವಿದ್ದರೆ ದೊಡ್ಡ ಡೆಸ್ಕ್ಟಾಪ್ ಅಥವಾ ಡೇಟಾಸೆಂಟರ್ GPU ಆರಿಸಿ, ಅಥವಾ ನಿಮ್ಮ ಕಾರ್ಯಭಾರಕ್ಕೆ ಕನಿಷ್ಠ ಗ್ರಾಫಿಕ್ಸ್ ಮೆಮೊರಿ ಸಾಕಾದರೆ ಚಿಕ್ಕ GPU ಆರಿಸಿ.
ಇದೇ ರೀತಿಯ GPUಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ
ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು
RTX 3060 laptop GPU LLM ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಚಿತ್ರ ಉತ್ಪಾದನೆಗೆ ಸೂಕ್ತವೇ?
ಹೌದು, ಇದರ 12 GB VRAM ಮತ್ತು compute capability 8.6 ಇದನ್ನು Ollama ಅಥವಾ vLLM ಮೂಲಕ ಚಿಕ್ಕ ಕ್ವಾಂಟೈಸ್ಡ್ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಮತ್ತು ComfyUI ನಲ್ಲಿ ಪ್ರಮಾಣಿತ diffusion ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡಲು ಸೂಕ್ತವಾಗಿಸುತ್ತದೆ. 12 GB ಮೀರುವ ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಸಾಮರ್ಥ್ಯವಿರುವ GPU ಅಗತ್ಯವಿದೆ.
ಈ ಲ್ಯಾಪ್ಟಾಪ್ ಆವೃತ್ತಿ ಡೆಸ್ಕ್ಟಾಪ್ GPU ಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಹೇಗಿದೆ?
80 W ವಿದ್ಯುತ್ ಮಿತಿಯ ಗ್ರಾಹಕ ಲ್ಯಾಪ್ಟಾಪ್ GPU ಆಗಿ, ಇದು ಸುಮಾರು 12.9 TFLOPS ಏಕ-ನಿಖರತೆಯ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಸುಮಾರು 299 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ನೀಡುತ್ತದೆ. ಇದು ಪೂರ್ಣ-ವಿದ್ಯುತ್ ಡೆಸ್ಕ್ಟಾಪ್ ಅಥವಾ ವರ್ಕ್ಸ್ಟೇಷನ್ ಕಾರ್ಡ್ಗಳಿಗಿಂತ ಕಡಿಮೆ. ಆದರೂ, ಇದರ 12 GB VRAM ಸಾಮರ್ಥ್ಯ ಮೆಮೊರಿ-ಬದ್ಧ ಆರಂಭಿಕ ಹಂತದ ಕಾರ್ಯಭಾರಗಳಿಗೆ ಸಾಕಷ್ಟು ಅವಕಾಶ ಒದಗಿಸುತ್ತದೆ.
ONIE ನಲ್ಲಿ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?
ಇನ್ಸ್ಟೆನ್ಸ್ಗಳಿಗೆ ಪ್ರತಿ ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ. ಇದರಿಂದ ನಿಮ್ಮ RTX 3060 laptop ಇನ್ಸ್ಟೆನ್ಸ್ ಸಕ್ರಿಯವಾಗಿರುವ ಸಮಯಕ್ಕೆ ಮಾತ್ರ ನೀವು ಪಾವತಿಸಬಹುದು.
ನನ್ನ ಕಾರ್ಯಭಾರಕ್ಕೆ ಹೇಗೆ ಸಂಪರ್ಕಿಸಿ ಮತ್ತು ಅದನ್ನು ಪ್ರಾರಂಭಿಸುವುದು?
SSH ಪ್ರವೇಶದ ಮೂಲಕ ನೀವು ನೇರವಾಗಿ ನಿಮ್ಮ ಇನ್ಸ್ಟೆನ್ಸ್ಗೆ ಸಂಪರ್ಕಿಸಬಹುದು. ತಕ್ಷಣ ಕೆಲಸ ಆರಂಭಿಸಲು ONIE PyTorch/CUDA, vLLM, Ollama ಮತ್ತು ComfyUI ಗಾಗಿ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್ಗಳನ್ನೂ ಒದಗಿಸುತ್ತದೆ.
RTX 3060 laptop ಅನ್ನು ಗಂಟೆಯ ದರದಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ
ಖಾತೆ ರಚಿಸಿ, ಸಂರಚನೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. GPU ಅಳಿಸಿದಾಗ ಬಿಲ್ಲಿಂಗ್ ನಿಲ್ಲುತ್ತದೆ.
RTX 3060 laptop ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ