ಲಾಗ್ ಇನ್
GPU Cloud · NVIDIA · Ada Lovelace

ಗಂಟೆಯ ಆಧಾರದ ಮೇಲೆ NVIDIA RTX 4090 GPU ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

NVIDIA RTX 4090 ಎಂಬುದು Ada Lovelace ಆರ್ಕಿಟೆಕ್ಚರ್ ಆಧರಿತ ಗ್ರಾಹಕ-ವಿಭಾಗದ GPU ಆಗಿದ್ದು, ONIE ನಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಲಭ್ಯವಿದೆ. ಇದರಲ್ಲಿ 24 GB VRAM, ಸುಮಾರು 81.4 TFLOPS ಸಾಮಾನ್ಯ ಫ್ಲೋಟಿಂಗ್-ಪಾಯಿಂಟ್ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಸುಮಾರು 879 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಇದೆ. CUDA compute capability 8.9 ಮತ್ತು 450 W ಪವರ್ ಪ್ರೊಫೈಲ್‌ನೊಂದಿಗೆ, ಇದು ಬೇಡಿಕೆಯ AI ಮತ್ತು ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಯಭಾರಗಳನ್ನು ನಿಭಾಯಿಸುತ್ತದೆ.

RTX 4090 ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ವಿವರಣೆಗಳು

ಪ್ರತಿ GPUಗೆ VRAM

24 GB

ಆರ್ಕಿಟೆಕ್ಚರ್

NVIDIA Ada Lovelace

ಕಂಪ್ಯೂಟ್ ಸಾಮರ್ಥ್ಯ

8.9

FP32 ಕಂಪ್ಯೂಟ್

≈ 81.4 TFLOPS

ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್

≈ 879 GB/s

ಪವರ್ ಮಿತಿ

450 W

ಪ್ರಸ್ತುತ ಪಟ್ಟಿಮಾಡಲಾದ ಯಂತ್ರಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ಒದಗಿಸುವವರು ವರದಿ ಮಾಡಿದ ಮೌಲ್ಯಗಳು; ನಿಜವಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಯಂತ್ರದಿಂದ ಯಂತ್ರಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ.

ಲಭ್ಯವಿರುವ ಸಂರಚನೆಗಳು

ನೇರ ಸ್ಟಾಕ್ ಮತ್ತು ಬೆಲೆಗಳು, ನಿರಂತರವಾಗಿ ನವೀಕರಿಸಲಾಗುತ್ತದೆ. ಆರ್ಡರ್ ಮಾಡುವ ಮೊದಲು ಅಂತಿಮ ಬೆಲೆಯನ್ನು ದೃಢೀಕರಿಸಲಾಗುತ್ತದೆ.

ನೇರ ಬೆಲೆಗಳನ್ನು ಲೋಡ್ ಮಾಡಲಾಗುತ್ತಿದೆ…

RTX 4090 ಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು

ಸ್ಥಳೀಯ LLM ಇನ್‌ಫರೆನ್ಸ್

24 GB VRAM ಸಾಮರ್ಥ್ಯದೊಳಗೆ, ಪೂರ್ವ-ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾದ vLLM ಅಥವಾ Ollama ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಬಳಸಿ ಕ್ವಾಂಟೈಸ್ ಮಾಡಲಾದ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡಿ.

ಇಮೇಜ್ ಜನರೇಶನ್ ಮತ್ತು ಡಿಫ್ಯೂಷನ್

Ada Lovelace ಕಂಪ್ಯೂಟ್ ಶಕ್ತಿಯಿಂದ ಚಾಲಿತವಾದ ಹೈ-ರೆಸೊಲ್ಯೂಷನ್ ಇಮೇಜ್ ಸಿಂಥೆಸಿಸ್‌ಗಾಗಿ ComfyUI ವರ್ಕ್‌ಫ್ಲೋಗಳನ್ನು ನಿಯೋಜಿಸಿ.

ಡೀಪ್ ಲರ್ನಿಂಗ್ ಪ್ರೊಟೋಟೈಪಿಂಗ್

ಸುಮಾರು 879 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್‌ನೊಂದಿಗೆ PyTorch/CUDA ಟೆಂಪ್ಲೇಟ್ ಬಳಸಿ ಮಧ್ಯಮ ಗಾತ್ರದ ನ್ಯೂರಲ್ ನೆಟ್‌ವರ್ಕ್‌ಗಳನ್ನು ತರಬೇತಿ ಮಾಡಿ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಿ.

ಗ್ರಾಫಿಕ್ಸ್ ರೆಂಡರಿಂಗ್ ಮತ್ತು ಸಿಮ್ಯುಲೇಶನ್

ಸುಮಾರು 81.4 TFLOPS ಕಂಪ್ಯೂಟ್ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಬಳಸಿ ರೇ-ಟ್ರೇಸ್ಡ್ ರೆಂಡರಿಂಗ್ ಮತ್ತು ಫಿಸಿಕ್ಸ್ ಸಿಮ್ಯುಲೇಶನ್‌ಗಳನ್ನು ನಡೆಸಿ.

ನಿಮಗೆ ಇದು ಸರಿಯಾದ GPU ಆಗಿದೆಯೇ?

ನಿಮ್ಮ ಕಾರ್ಯಭಾರಗಳಿಗೆ ಬಲಿಷ್ಠ Ada Lovelace ಕಂಪ್ಯೂಟ್ ಬೇಕಾಗಿದ್ದು, 24 GB ಮೆಮೊರಿಯೊಳಗೆ ಆರಾಮವಾಗಿ ಹೊಂದಿಕೊಳ್ಳುತ್ತಿದ್ದರೆ RTX 4090 ಆಯ್ಕೆ ಮಾಡಿ. ವೆಚ್ಚ ಕಡಿಮೆ ಮಾಡಲು ಹಗುರ ಇನ್‌ಫರೆನ್ಸ್‌ಗೆ ಸಣ್ಣ ಗ್ರಾಹಕ GPU ಆಯ್ಕೆ ಮಾಡಿ, ಅಥವಾ 24 GB ಗಿಂತ ಹೆಚ್ಚು VRAM ಬೇಕಾದ ಮಾದರಿಗಳ ತರಬೇತಿಗೆ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಅಥವಾ ಡೇಟಾಸೆಂಟರ್ GPU ಗೆ ಮೇಲ್ದರ್ಜೆಗೇರಿಸಿ.

ಇದೇ ರೀತಿಯ GPUಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ

GPUಪ್ರತಿ GPUಗೆ VRAMಆರ್ಕಿಟೆಕ್ಚರ್FP32 ಕಂಪ್ಯೂಟ್ಪ್ರತಿ ಗಂಟೆಗೆ ಆರಂಭವಿವರಗಳು
RTX 409024 GBAda Lovelace≈ 81.4 TFLOPS—
RTX 6000Ada48 GBAda Lovelace≈ 81.4 TFLOPS—ವಿವರಗಳು
RTX 509032 GBBlackwell≈ 107.6 TFLOPS—ವಿವರಗಳು
RTX 5090D32 GBBlackwell≈ 107.6 TFLOPS—ವಿವರಗಳು

ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

RTX 4090 LLM ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ಗೆ ಸೂಕ್ತವೇ?

ಹೌದು. 24 GB VRAM ಮತ್ತು ಸುಮಾರು 879 GB/s ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಇದನ್ನು ಸಣ್ಣ ಮತ್ತು ಮಧ್ಯಮ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಸರ್ವ್ ಮಾಡಲು ಮತ್ತು ಪ್ಯಾರಾಮೀಟರ್-ಎಫಿಷಿಯಂಟ್ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮಾಡಲು ಚೆನ್ನಾಗಿ ಸೂಕ್ತವಾಗಿಸುತ್ತದೆ. ನಿಮ್ಮ ಮಾದರಿ ವೇಟ್ಸ್ ಮತ್ತು ಕಾಂಟೆಕ್ಸ್ಟ್ ವಿಂಡೋ 24 GB ಮೀರಿದರೆ, ದೊಡ್ಡ ಮೆಮೊರಿ ಸಾಮರ್ಥ್ಯದ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಅಥವಾ ಡೇಟಾಸೆಂಟರ್ GPU ಅಗತ್ಯವಿದೆ.

RTX 4090 ಇನ್ಸ್ಟೆನ್ಸ್‌ಗೆ ಹೇಗೆ ಸಂಪರ್ಕಿಸುವುದು ಮತ್ತು ಯಾವ ಸಾಫ್ಟ್‌ವೇರ್ ಒಳಗೊಂಡಿದೆ?

ನಿಮ್ಮ ಇನ್ಸ್ಟೆನ್ಸ್‌ಗೆ SSH ಪ್ರವೇಶದ ಮೂಲಕ ನೇರವಾಗಿ ಸಂಪರ್ಕಿಸಬಹುದು. ONIE PyTorch/CUDA, vLLM, Ollama ಮತ್ತು ComfyUI ಸೇರಿದಂತೆ ಸಿದ್ಧ ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ, ಇದರಿಂದ ನೀವು CUDA compute capability 8.9 ಜೊತೆಗೆ ತಕ್ಷಣ ಕೆಲಸ ಆರಂಭಿಸಬಹುದು.

RTX 4090 ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಅಥವಾ ಡೇಟಾಸೆಂಟರ್ GPU ಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಹೇಗಿದೆ?

450 W ಥರ್ಮಲ್ ಡಿಸೈನ್ ಪವರ್ ಹೊಂದಿರುವ ಗ್ರಾಹಕ-ವಿಭಾಗದ ಕಾರ್ಡ್ ಆಗಿರುವ RTX 4090, ಸುಮಾರು 81.4 TFLOPS ನಲ್ಲಿ ಹೆಚ್ಚಿನ ಕಂಪ್ಯೂಟ್ ಸಾಂದ್ರತೆ ನೀಡುತ್ತದೆ. ಆದರೆ ಇದರ VRAM 24 GB ಗೆ ಸೀಮಿತವಾಗಿದೆ, ಉನ್ನತ ಶ್ರೇಣಿಯ ವರ್ಕ್‌ಸ್ಟೇಷನ್ ಮತ್ತು ಡೇಟಾಸೆಂಟರ್ GPU ಗಳು ಭಾರಿ ಡೇಟಾಸೆಟ್‌ಗಳಿಗಾಗಿ ದೊಡ್ಡ ಮೆಮೊರಿ ಪೂಲ್‌ಗಳನ್ನು ನೀಡುತ್ತವೆ.

RTX 4090 ಬಾಡಿಗೆಗೆ ಬಿಲ್ಲಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ?

ONIE ಎಲ್ಲಾ GPU ಬಾಡಿಗೆಗಳಿಗೆ ಪ್ರತಿ ಗಂಟೆಗೆ ಬಿಲ್ಲಿಂಗ್ ಬಳಸುತ್ತದೆ. ನಿಮ್ಮ ಇನ್ಸ್ಟೆನ್ಸ್ ಸಕ್ರಿಯವಾಗಿರುವ ಸಮಯಕ್ಕೆ ಮಾತ್ರ ನೀವು ಪಾವತಿಸುತ್ತೀರಿ.

RTX 4090 ಅನ್ನು ಗಂಟೆಯ ದರದಲ್ಲಿ ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಖಾತೆ ರಚಿಸಿ, ಸಂರಚನೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು SSH ಮೂಲಕ ಸಂಪರ್ಕಿಸಿ. GPU ಅಳಿಸಿದಾಗ ಬಿಲ್ಲಿಂಗ್ ನಿಲ್ಲುತ್ತದೆ.

RTX 4090 ಬಾಡಿಗೆಗೆ ಪಡೆಯಿರಿ

ಎಲ್ಲಾ GPUಗಳು →