NVIDIA Tesla P40 GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA Tesla P40 என்பது 24 GB VRAM மற்றும் compute capability 6.1 கொண்ட Pascal கட்டமைப்பு டேட்டாசென்டர் GPU ஆகும். இது ஒற்றை-துல்லிய compute-இல் சுமார் 9.4 TFLOPS வேகத்தையும், 250 W வெப்ப வரம்பிற்குள் சுமார் 257 GB/s நினைவக அலைவரிசையையும் வழங்குகிறது. ONIE தளத்தில், இந்த GPU-ஐ மணிநேர அடிப்படையிலான கட்டணம், SSH அணுகல் மற்றும் PyTorch/CUDA, vLLM, Ollama, ComfyUI-க்கான முன்கட்டமைக்கப்பட்ட டெம்ப்ளேட்களுடன் வாடகைக்கு எடுக்கலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
Tesla P40 எதற்கு ஏற்றது
குவாண்டைஸ் செய்யப்பட்ட LLM Inference
Ollama அல்லது vLLM போன்ற தயார் டெம்ப்ளேட்களைப் பயன்படுத்தி 24 GB வரை நினைவகம் தேவைப்படும் உள்ளூர் மொழி மாடல்களை இயக்குங்கள்.
படம் உருவாக்கும் பணிப்போக்குகள்
பல checkpoint-கள் மற்றும் control net-களை ஏற்றுவதற்கு போதுமான VRAM திறனால் பயனடையும் ComfyUI பைப்லைன்களை ஹோஸ்ட் செய்யுங்கள்.
பழைய CUDA மேம்பாடு
Pascal கட்டமைப்பு மற்றும் compute capability 6.1-ஐ இலக்காகக் கொண்ட PyTorch/CUDA பயன்பாடுகளை உருவாக்கவும், சோதிக்கவும், பராமரிக்கவும்.
நினைவக-வரம்புடைய தொகுதி செயலாக்கம்
மூல compute வேகத்தை விட பெரிய டேட்டாசெட்களை 24 GB VRAM-க்குள் பொருத்துவதற்கு முன்னுரிமை அளிக்கும் டேட்டாசென்டர் பணிச்சுமைகளை இயக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
உங்கள் முதன்மைத் தேவை நினைவகம் அதிகம் தேவைப்படும் inference அல்லது மேம்பாட்டுப் பணிகளுக்கான 24 GB VRAM ஆகவும், பழைய Pascal compute போதுமானதாக இருந்தால், Tesla P40-ஐத் தேர்ந்தெடுங்கள். அதிக நினைவக அலைவரிசை அல்லது கனமான பயிற்சிக்கான நவீன tensor முடுக்கம் தேவைப்பட்டால் புதிய அல்லது பெரிய GPU-ஐயும், உங்கள் பணிச்சுமை குறைந்த நினைவகத்தைப் பயன்படுத்தினால் சிறிய GPU-ஐயும் தேர்ந்தெடுங்கள்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
பெரிய மொழி மாடல்களை இயக்குவதற்கு Tesla P40 ஏற்றதா?
24 GB VRAM திறன் காரணமாக, Ollama போன்ற டெம்ப்ளேட்களைப் பயன்படுத்தி மிதமான அளவிலான, quantized மொழி மாடல்களை Tesla P40 நினைவகத்தில் வைத்திருக்க முடியும். இருப்பினும், அதன் நினைவக அலைவரிசை சுமார் 257 GB/s மற்றும் பழைய Pascal கட்டமைப்பைப் பயன்படுத்துவதால், புதிய டேட்டாசென்டர் GPU-களை விட token உருவாக்கம் மெதுவாக இருக்கும்.
Compute capability 6.1 உடன் எந்த மென்பொருள் இணக்கத்தன்மையை எதிர்பார்க்கலாம்?
Compute capability 6.1 சுமார் 9.4 TFLOPS வேகத்தில் நிலையான ஒற்றை-துல்லிய பணிச்சுமைகளை ஆதரிக்கிறது; இது பொதுவான PyTorch/CUDA டெம்ப்ளேட்களுடன் நன்றாக வேலை செய்கிறது. புதிய வன்பொருள் அறிவுறுத்தல்கள் தேவைப்படும் சில நவீன machine learning நூலகங்கள் அல்லது அம்சங்கள் Pascal கட்டமைப்பில் இயங்காமல் போகலாம்.
ONIE-இல் எனது Tesla P40 instance-ஐ எவ்வாறு இணைத்து அமைப்பது?
PyTorch/CUDA, vLLM, Ollama அல்லது ComfyUI-க்கான தயார் டெம்ப்ளேட்களைப் பயன்படுத்தி instance-ஐ deploy செய்யலாம். நேரடி SSH அணுகல் சேர்க்கப்பட்டுள்ளது; இதன்மூலம் உங்கள் terminal-இலிருந்தே கோப்புகளையும் தனிப்பயன் environment-களையும் நிர்வகிக்கலாம்.
Tesla P40-ஐ வாடகைக்கு எடுப்பதற்கான கட்டண முறை எப்படி செயல்படுகிறது?
ONIE-இல் உள்ள instance-கள் மணிநேர அடிப்படையிலான கட்டணத்தைப் பயன்படுத்துகின்றன; உங்கள் டேட்டாசென்டர் GPU instance இயங்கும் நேரத்திற்கு மட்டுமே பணம் செலுத்தலாம்.
Tesla P40-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
Tesla P40-ஐ வாடகைக்கு எடுக்கவும்