NVIDIA Tesla V100 GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA Tesla V100 என்பது Volta கட்டமைப்பைச் சேர்ந்த தரவு மைய GPU ஆகும். இதில் 16 GB உயர் அலைவரிசை VRAM உள்ளது, மேலும் இதன் வெப்ப வடிவமைப்பு மின்திறன் 300 W ஆகும். இது சுமார் 12.5 TFLOPS ஒற்றை-துல்லிய கணினித் திறனையும், சுமார் 780 GB/s நினைவக அலைவரிசையையும் வழங்குகிறது. இதனால் நினைவகத் தேவை அதிகமுள்ள அறிவியல் கணினிக்கும் ஆழ் கற்றல் பணிகளுக்கும் நம்பகமான தேர்வாக அமைகிறது. ONIE தளத்தில், மணிநேர அடிப்படையிலான கட்டணம், முழு SSH அணுகல் மற்றும் முன்கட்டமைக்கப்பட்ட டெம்ப்ளேட்டுகளுடன் Tesla V100-ஐ நீங்கள் பயன்படுத்தலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
Tesla V100 எதற்கு ஏற்றது
சிறிய LLM அனுமானம்
Ollama அல்லது vLLM டெம்ப்ளேட்டுகளைப் பயன்படுத்தி குவாண்டைஸ் செய்யப்பட்ட அல்லது சிறிய மொழி மாதிரிகளை இயக்குங்கள்; சுமார் 780 GB/s நினைவக அலைவரிசையின் பலனையும் பெறுங்கள்.
ஆழ் கற்றல் முன்மாதிரி உருவாக்கம்
16 GB VRAM மற்றும் compute capability 7.0 கொண்டு PyTorch-இல் நரம்பியல் வலையமைப்பு கட்டமைப்புகளைப் பயிற்சி செய்து சரிபார்க்கவும்.
பட உருவாக்கப் பணிப்பாய்வுகள்
முன்கட்டமைக்கப்பட்ட ComfyUI டெம்ப்ளேட்டுகள் மூலம் diffusion pipelines மற்றும் தனிப்பயன் உருவாக்க வரைபடங்களை இயக்குங்கள்.
அறிவியல் உருவகப்படுத்தல் மற்றும் கணினி
Volta கட்டமைப்பு மற்றும் சுமார் 12.5 TFLOPS ஒற்றை-துல்லியச் செயல்திறனால் பயனடையும், நினைவக அலைவரிசையால் வரம்பிடப்படும் தரவு மைய பணிச்சுமைகளை இயக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
அதிக நினைவக அலைவரிசை தேவைப்படும் சிறிய முதல் நடுத்தர அளவிலான மாதிரிகளுக்கும் அறிவியல் பணிச்சுமைகளுக்கும் 16 GB Tesla V100 ஏற்றது. புதிய தரவு மைய வன்பொருளுக்குச் செலவிடாமல் ஆராய்ச்சியாளர்களும் டெவலப்பர்களும் இதைப் பயன்படுத்தலாம். குறைந்த நினைவகத் தேவையுடைய அடிப்படை மேம்பாட்டுக்கு சிறிய நுகர்வோர் GPU-வைத் தேர்ந்தெடுக்கவும். உங்கள் மாதிரிகள் 16 GB-ஐத் தாண்டினால் அல்லது compute capability 7.0-க்கு அப்பாற்பட்ட புதிய கட்டமைப்பு அம்சங்கள் தேவைப்பட்டால், அதிக VRAM கொண்ட புதிய தலைமுறை GPU-க்கு மாறவும்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
16 GB Tesla V100 LLM அனுமானம் மற்றும் ஃபைன்-ட்யூனிங்கிற்கு ஏற்றதா?
16 GB VRAM மற்றும் சுமார் 780 GB/s நினைவக அலைவரிசை காரணமாக, Tesla V100 சிறிய அல்லது குவாண்டைஸ் செய்யப்பட்ட மொழி மாதிரிகளின் அனுமானத்துக்கும் அளவுரு-திறனுள்ள ஃபைன்-ட்யூனிங்கிற்கும் ஏற்றது. 16 GB நினைவகத்தில் பொருந்தாத பெரிய மாதிரிகளுக்கு, அதிக VRAM திறன் கொண்ட GPU-வைத் தேர்ந்தெடுக்கவும்.
ONIE தளத்தில் என்ன மென்பொருள் டெம்ப்ளேட்டுகளும் இணைப்பு முறைகளும் கிடைக்கின்றன?
ஒவ்வொரு Tesla V100 நிகழ்வும் தனிப்பயன் கட்டமைப்பு மற்றும் கட்டளை-வரி பணிப்பாய்வுகளுக்கான நேரடி SSH அணுகலை உள்ளடக்கியது. PyTorch/CUDA, vLLM, Ollama மற்றும் ComfyUI உள்ளிட்ட தயார் நிலை டெம்ப்ளேட்டுகளையும் உடனே தொடங்கி பணியைத் தொடங்கலாம்.
Volta கட்டமைப்பு கட்டமைப்புத் தொகுப்புடன் (framework) இணக்கத்தை எவ்வாறு பாதிக்கிறது?
Tesla V100 CUDA compute capability 7.0-ஐ ஆதரிக்கிறது; இது PyTorch போன்ற நிலையான ஆழ் கற்றல் கட்டமைப்புகளுடன் இணக்கமானது. எனினும், புதிய compute capability-களில் அறிமுகமான அம்சங்களை வெளிப்படையாகத் தேவைப்படும் பணிச்சுமைகளுக்கு, புதிய GPU கட்டமைப்பு தேவைப்படும்.
Tesla V100-ஐ வாடகைக்கு எடுப்பதற்கான கட்டண முறை எப்படி?
ONIE அனைத்து Tesla V100 வாடகைகளுக்கும் எளிய மணிநேர அடிப்படையிலான கட்டணத்தைப் பயன்படுத்துகிறது. உங்கள் நிகழ்வு செயலில் இருக்கும் நேரத்திற்கு மட்டுமே பணம் செலுத்துவீர்கள்; இதனால் சோதனைகளையோ தொகுதிப் பணிகளையோ இயக்கி, முடிந்ததும் சேவையகத்தை நிறுத்தலாம்.
Tesla V100-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
Tesla V100-ஐ வாடகைக்கு எடுக்கவும்