NVIDIA RTX 3080 GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA RTX 3080 என்பது Ampere கட்டமைப்பைச் சார்ந்த நுகர்வோர் GPU ஆகும், இதில் 10 GB VRAM உள்ளது. இது சுமார் 29.5 TFLOPS நிலையான மிதவைப் புள்ளி கணினித் திறனையும், சுமார் 656 GB/s நினைவக அலைவரிசையையும் வழங்குகிறது. ONIE தளத்தில், இந்த GPU-வை மணிநேர அடிப்படையிலான கட்டணம், SSH அணுகல் மற்றும் தயார் நிலை டெம்ப்ளேட்கள் மூலம் பயன்படுத்தலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
RTX 3080 எதற்கு ஏற்றது
சிறிய LLM Inference
முன்கூட்டியே கட்டமைக்கப்பட்ட Ollama அல்லது vLLM டெம்ப்ளேட்களைப் பயன்படுத்தி 10 GB VRAM-க்குள் பொருந்தக்கூடிய அளவிடப்பட்ட (quantized) மொழி மாதிரிகளை இயக்கவும்.
பட உருவாக்கப் பணிப்பாய்வுகள்
ComfyUI-யில் diffusion pipelines-ஐ இயக்கவும், நிலையான பட வெளியீட்டிற்காக சுமார் 656 GB/s நினைவக அலைவரிசையைப் பயன்படுத்தவும்.
PyTorch மாதிரி முன்மாதிரி உருவாக்கம்
அளவை உயர்த்துவதற்கு முன், compute capability 8.6 கொண்ட Ampere கார்டில் deep learning குறியீட்டை உருவாக்கி சோதிக்கவும்.
CUDA கணினிப் பணிகள்
சுமார் 29.5 TFLOPS நிலையான மிதவைப் புள்ளி செயல்திறனைப் பயன்படுத்தி தனிப்பயன் பணிச்சுமைகளை வேகப்படுத்தவும்.
இது உங்களுக்கு சரியான GPU-வா?
முன்மாதிரி உருவாக்கம், பட உருவாக்கம் மற்றும் சிறிய அளவிலான அனுமானத்திற்கு, 10 GB VRAM மற்றும் வலுவான Ampere கணினித் திறன் போதுமானதாக இருக்கும் இடங்களில் RTX 3080-ஐத் தேர்வு செய்யவும். உங்கள் மாதிரிகள் அல்லது batch அளவுகள் 10 GB-ஐ மீறினால், அதிக நினைவகம் கொண்ட GPU-வைத் தேர்வு செய்யவும்; சுமார் 29.5 TFLOPS தேவைப்படாத இலகுவான ஸ்கிரிப்ட்களுக்கு குறைந்த விவரக்குறிப்பு கொண்ட நுகர்வோர் கார்டைத் தேர்வு செய்யவும்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
RTX 3080 LLM அனுமானத்திற்கும் பட உருவாக்கத்திற்கும் ஏற்றதா?
ஆம், அதன் 10 GB VRAM மற்றும் சுமார் 656 GB/s நினைவக அலைவரிசை ComfyUI-யில் நிலையான பட உருவாக்கத்தையும், Ollama அல்லது vLLM வழியாக அளவிடப்பட்ட மொழி மாதிரிகளையும் கையாளும். அளவிடப்படாத பெரிய மாதிரிகளுக்கு அதிக நினைவகத் திறன் கொண்ட GPU தேவைப்படும்.
ONIE தளத்தில் RTX 3080-க்கு என்ன மென்பொருள் டெம்ப்ளேட்கள் கிடைக்கின்றன?
PyTorch/CUDA, vLLM, Ollama மற்றும் ComfyUI-க்கான தயார் நிலை டெம்ப்ளேட்களுடன் நிகழ்வுகளை (instances) துவக்கலாம். இந்த கார்டு compute capability 8.6-ஐ ஆதரிக்கிறது, இது நவீன machine learning கட்டமைப்புகளுடன் பரந்த இணக்கத்தன்மையை உறுதி செய்கிறது.
RTX 3080-இலிருந்து பெரிய GPU-க்கு எப்போது மாற வேண்டும்?
RTX 3080 சுமார் 29.5 TFLOPS வலுவான நுகர்வோர் வகுப்பு கணினித் திறனை 380 W மின் அளவுக்குள் வழங்குகிறது, ஆனால் இது 10 GB VRAM-க்கு மட்டுமே வரம்பிடப்பட்டுள்ளது. உங்கள் training batches அல்லது மாதிரி எடைகள் out-of-memory பிழைகளை ஏற்படுத்தினால், பெரிய நினைவக இடையகம் கொண்ட workstation அல்லது datacenter GPU பொருத்தமான தேர்வாகும்.
ONIE தளத்தில் கட்டணம் மற்றும் அணுகல் எவ்வாறு செயல்படுகின்றன?
நிகழ்வுகள் செயலில் இருக்கும்போது மணிநேர அடிப்படையில் கட்டணம் விதிக்கப்படும். உங்கள் சூழலை நிர்வகிக்க முழு SSH அணுகல் வழங்கப்படும், மேலும் நீங்கள் தேர்ந்தெடுக்கும் டெம்ப்ளேட் வழங்கும் இணைய இடைமுகங்களையும் பயன்படுத்தலாம்.
RTX 3080-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
RTX 3080-ஐ வாடகைக்கு எடுக்கவும்