ಲಾಗ್ ಇನ್
GPU Cloud · NVIDIA · Ampere

ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ NVIDIA RTX A4000 GPU ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

NVIDIA RTX A4000 ಒಂದು Ampere ವಾಸ್ತುಶಿಲ್ಪದ ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಆಗಿದ್ದು, 16 GB VRAM ಮತ್ತು compute capability 8.6 ಹೊಂದಿದೆ. 140 W ವಿದ್ಯುತ್ ಮಿತಿಯೊಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಾ, ಇದು ಸುಮಾರು 20.6 TFLOPS ಸಿಂಗಲ್-ಪ್ರೆಸಿಶನ್ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಸುಮಾರು 372 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ನೀಡುತ್ತದೆ. ONIE ನಲ್ಲಿ ಪ್ರತಿ ಗಂಟೆಗೆ ಬಿಲ್ಲಿಂಗ್, ಪೂರ್ಣ SSH ಪ್ರವೇಶ ಮತ್ತು PyTorch/CUDA, vLLM, Ollama, ComfyUI ಗಾಗಿ ಪೂರ್ವ-ಸಂರಚಿತ ಟೆಂಪ್ಲೇಟ್‌ಗಳೊಂದಿಗೆ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ.

RTX A4000 ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ವಿವರಣೆಗಳು

ಪ್ರತಿ GPUಗೆ VRAM

16 GB

ಆರ್ಕಿಟೆಕ್ಚರ್

NVIDIA Ampere

ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ

8.6

FP32 ಕಂಪ್ಯೂಟ್

≈ 20.6 TFLOPS

ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್

≈ 372 GB/s

ಪವರ್ ಮಿತಿ

140 W

ಪ್ರಸ್ತುತ ಪಟ್ಟಿಮಾಡಲಾದ ಯಂತ್ರಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ವರದಿ ಮಾಡಿದ ಮೌಲ್ಯಗಳು; ನಿಜವಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಯಂತ್ರದಿಂದ ಯಂತ್ರಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ.

ಲಭ್ಯವಿರುವ ಸಂರಚನೆಗಳು

ನೇರ ಸ್ಟಾಕ್ ಮತ್ತು ಬೆಲೆಗಳು, ನಿರಂತರವಾಗಿ ನವೀಕರಿಸಲಾಗುತ್ತದೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಲಾಗುತ್ತದೆ.

ನೇರ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…

RTX A4000 ಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು

ಮಧ್ಯಮ ಭಾಷಾ ಮಾದರಿ ಇನ್‌ಫರೆನ್ಸ್

16 GB VRAM ಸಾಮರ್ಥ್ಯದೊಳಗೆ Ollama ಅಥವಾ vLLM ಬಳಸಿ ಕ್ವಾಂಟೈಸ್ಡ್ ಅಥವಾ ಮಧ್ಯಮ ಗಾತ್ರದ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡಿ.

ಇಮೇಜ್ ಜನರೇಶನ್ ವರ್ಕ್‌ಫ್ಲೋಗಳು

ಸುಮಾರು 372 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಬೆಂಬಲದೊಂದಿಗೆ ಡಿಫ್ಯೂಷನ್ ಆಧಾರಿತ ಇಮೇಜ್ ಜನರೇಶನ್ ಮತ್ತು ಪ್ರಯೋಗಕ್ಕಾಗಿ ComfyUI ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ನಿಯೋಜಿಸಿ.

ಡೀಪ್ ಲರ್ನಿಂಗ್ ಪ್ರೋಟೋಟೈಪಿಂಗ್

Compute capability 8.6 ಹೊಂದಿರುವ Ampere ವರ್ಕ್‌ಸ್ಟೇಷನ್ ವಾಸ್ತುಶಿಲ್ಪದಲ್ಲಿ PyTorch/CUDA ತರಬೇತಿ ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿ ಮತ್ತು ಪರೀಕ್ಷಿಸಿ.

ವರ್ಕ್‌ಸ್ಟೇಷನ್ ರೆಂಡರಿಂಗ್ ಕಾರ್ಯಗಳು

ಸುಮಾರು 20.6 TFLOPS ಸಿಂಗಲ್-ಪ್ರೆಸಿಶನ್ ಕಾರ್ಯಕ್ಷಮತೆಯ ಪ್ರಯೋಜನ ಪಡೆಯುವ ರೆಂಡರಿಂಗ್ ಮತ್ತು ಸಿಮ್ಯುಲೇಶನ್ ಕಾರ್ಯಗಳನ್ನು ನಡೆಸಿ.

ನಿಮಗೆ ಇದು ಸರಿಯಾದ GPU ಆಗಿದೆಯೇ?

ಇನ್‌ಫರೆನ್ಸ್, ಇಮೇಜ್ ಜನರೇಶನ್ ಮತ್ತು ಕೋಡ್ ಪ್ರೋಟೋಟೈಪಿಂಗ್‌ಗಾಗಿ ವಿಶ್ವಾಸಾರ್ಹ 16 GB Ampere ವರ್ಕ್‌ಸ್ಟೇಷನ್ GPU ಅಗತ್ಯವಿರುವ ಡೆವಲಪರ್‌ಗಳು ಮತ್ತು ಕ್ರಿಯೇಟರ್‌ಗಳಿಗೆ RTX A4000 ಸೂಕ್ತವಾಗಿದೆ. ಮೂಲಭೂತ ಪರೀಕ್ಷೆಗೆ ಕಡಿಮೆ ಮೆಮೊರಿ ಸಾಕಾದರೆ ಚಿಕ್ಕ GPU ಆಯ್ಕೆಮಾಡಿ, ಮಾದರಿಗಳು 16 GB VRAM ಮೀರಿದರೆ ಅಥವಾ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಅಗತ್ಯವಿದ್ದರೆ ದೊಡ್ಡ ಡೇಟಾಸೆಂಟರ್ ಅಥವಾ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಕಾರ್ಡ್‌ಗೆ ಬದಲಾಯಿಸಿ.

ಇದೇ ರೀತಿಯ GPUಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ

GPUಪ್ರತಿ GPUಗೆ VRAMಆರ್ಕಿಟೆಕ್ಚರ್FP32 ಕಂಪ್ಯೂಟ್ಪ್ರತಿ ಗಂಟೆಗೆ ಆರಂಭವಿವರಗಳು
RTX A400016 GBAmpere≈ 20.6 TFLOPS—
RTX 4060 Ti16 GBAda Lovelace≈ 21.6 TFLOPS—ವಿವರಗಳು
RTX 5060 Ti16 GBBlackwell≈ 22.8 TFLOPS—ವಿವರಗಳು
L422 GBAda Lovelace≈ 24.2 TFLOPS—ವಿವರಗಳು

ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

RTX A4000 LLM ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ ಸೂಕ್ತವೇ?

16 GB VRAM ಮತ್ತು ಸುಮಾರು 372 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್‌ನೊಂದಿಗೆ, ಇದು Ollama ಅಥವಾ vLLM ಮೂಲಕ ಚಿಕ್ಕ ಅಥವಾ ಕ್ವಾಂಟೈಸ್ಡ್ ಭಾಷಾ ಮಾದರಿಗಳ ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಹಗುರ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ನಿರ್ವಹಿಸಬಲ್ಲದು. ಪೂರ್ಣ-ಪ್ಯಾರಾಮೀಟರ್ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅಥವಾ ದೊಡ್ಡ ಕ್ವಾಂಟೈಸ್ ಮಾಡದ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸಲು ಹೆಚ್ಚಿನ VRAM ಇರುವ GPU ಶಿಫಾರಸು ಮಾಡಲಾಗಿದೆ.

ಈ GPU ದೊಡ್ಡ ಅಥವಾ ಚಿಕ್ಕ ಆಯ್ಕೆಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಹೇಗಿದೆ?

ಸುಮಾರು 20.6 TFLOPS ಸಿಂಗಲ್-ಪ್ರೆಸಿಶನ್ ಕಂಪ್ಯೂಟ್ ನೀಡುವ 16 GB ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಕಾರ್ಡ್ ಆಗಿ, RTX A4000 ಪ್ರವೇಶ ಮಟ್ಟದ ಗ್ರಾಹಕ ಕಾರ್ಡ್‌ಗಳು ಮತ್ತು ಭಾರೀ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಅಥವಾ ಡೇಟಾಸೆಂಟರ್ GPUಗಳ ನಡುವೆ ಇದೆ. ಚಿಕ್ಕ ಆಯ್ಕೆಗೆ ಹೋದರೆ ಬ್ಯಾಚ್ ಗಾತ್ರಗಳಿಗೆ ಲಭ್ಯವಿರುವ ಮೆಮೊರಿ ಕಡಿಮೆಯಾಗುತ್ತದೆ, ದೊಡ್ಡ ಆಯ್ಕೆಗೆ ಹೋದರೆ ಭಾರೀ ಕೆಲಸದ ಹೊರೆಗಳಿಗಾಗಿ ಹೆಚ್ಚಿನ VRAM ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಸಿಗುತ್ತದೆ.

ONIE ನಲ್ಲಿ RTX A4000 ಗಾಗಿ ಯಾವ ಸಾಫ್ಟ್‌ವೇರ್ ಪರಿಸರಗಳು ಲಭ್ಯವಿವೆ?

ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳಾದ PyTorch/CUDA, vLLM, Ollama ಮತ್ತು ComfyUI ಅನ್ನು ನಿಯೋಜಿಸಬಹುದು, ಇವೆಲ್ಲವೂ ಕಾರ್ಡ್‌ನ compute capability 8.6 ಗೆ ಹೊಂದಿಕೊಳ್ಳುತ್ತವೆ. ನಿಮ್ಮ ಪರಿಸರವನ್ನು ಕಸ್ಟಮೈಸ್ ಮಾಡಲು ಪೂರ್ಣ SSH ಪ್ರವೇಶ ಕೂಡ ಒದಗಿಸಲಾಗಿದೆ.

RTX A4000 ಬಾಡಿಗೆಗೆ ಪಡೆದಾಗ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?

ONIE ನಲ್ಲಿ ಬಾಡಿಗೆಗಳಿಗೆ ಪ್ರತಿ ಗಂಟೆ ಬಿಲ್ಲಿಂಗ್ ಇದ್ದು, ನಿಮ್ಮ ಇನ್‌ಸ್ಟೆನ್ಸ್ ಸಕ್ರಿಯವಾಗಿರುವ ಸಮಯಕ್ಕೆ ಮಾತ್ರ ಪಾವತಿಸಬಹುದು.

RTX A4000 ಅನ್ನು ಗಂಟೆಯ ದರದಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಖಾತೆ ರಚಿಸಿ, ಸಂರಚನೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. GPU ಅಳಿಸಿದಾಗ ಬಿಲ್ಲಿಂಗ್ ನಿಲ್ಲುತ್ತದೆ.

RTX A4000 ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಎಲ್ಲಾ GPUಗಳು →