NVIDIA CMP 170HX GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA CMP 170HX என்பது 64 GB VRAM மற்றும் 250 W TDP கொண்ட Ampere கட்டமைப்பு டேட்டாசென்டர் GPU ஆகும். இது compute capability 8.0-இல் சுமார் 12.1 TFLOPS single-precision compute திறனுடன், சுமார் 1516 GB/s நினைவக அலைவரிசையை வழங்குகிறது. ONIE-இல், இந்த கார்டை மணிநேர அடிப்படையிலான கட்டணம், முழு SSH அணுகல் மற்றும் PyTorch/CUDA, vLLM, Ollama, ComfyUI-க்கான தயார் டெம்ப்ளேட்களுடன் பயன்படுத்தலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
CMP 170HX எதற்கு ஏற்றது
நினைவகத்தால் வரம்பிடப்பட்ட LLM இன்ஃபெரன்ஸ்
64 GB VRAM கொள்ளளவு மற்றும் சுமார் 1516 GB/s நினைவக அலைவரிசையைப் பயன்படுத்தி, vLLM அல்லது Ollama மூலம் பெரிய மொழி மாதிரிகளை வழங்குங்கள்.
அதிக நினைவக ஆழ்கற்றல்
அதிக நினைவகக் கொள்ளளவும் compute capability 8.0-உம் தேவைப்படும் PyTorch/CUDA பணிச்சுமைகளை, மாதிரிகளைப் பல சாதனங்களுக்குப் பிரிக்காமல் இயக்குங்கள்.
சிக்கலான பட உருவாக்கப் பணிப்பாய்வுகள்
64 GB நினைவகத் தொகுப்பிற்குள், ComfyUI-இல் பல பெரிய diffusion checkpoint-களையும் control net-களையும் ஒரே நேரத்தில் ஏற்றுங்கள்.
தரவு செயலாக்கம் மற்றும் உருவகப்படுத்தல்
250 W மின் வரம்புக்குள், அதிக நினைவகப் பரிமாற்ற வேகத்தால் பயனடையும் நினைவகம் அதிகம் தேவைப்படும் டேட்டாசென்டர் பணிகளை இயக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
உங்கள் பணிச்சுமை மூல single-precision compute-ஐ விட நினைவகக் கொள்ளளவு மற்றும் அலைவரிசையால் வரம்பிடப்பட்டிருக்கும்போது CMP 170HX-ஐத் தேர்ந்தெடுக்கவும். வேகமான பயிற்சி மறு செய்கைகள் தேவைப்பட்டால், அதிக compute throughput கொண்ட GPU-வைத் தேர்ந்தெடுக்கவும்; உங்கள் மாதிரிகளுக்கு 64 GB VRAM தேவையில்லை என்றால், சிறிய நுகர்வோர் கார்டைத் தேர்ந்தெடுக்கவும்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
CMP 170HX, LLM இன்ஃபெரன்ஸுக்கு ஏற்றதா?
ஆம், இதன் 64 GB VRAM மற்றும் சுமார் 1516 GB/s நினைவக அலைவரிசை, vLLM மற்றும் Ollama போன்ற டெம்ப்ளேட்களைப் பயன்படுத்தி பெரிய மொழி மாதிரிகளை ஏற்றவும் வழங்கவும் இதை நன்கு பொருத்தமாக்குகின்றன. எனினும், சுமார் 12.1 TFLOPS single-precision compute வழங்குவதால், அதிக compute அடர்த்தி கொண்ட டேட்டாசென்டர் GPU-களை விட prompt செயலாக்கம் மெதுவாக இருக்கும்.
இந்த GPU, நிலையான டேட்டாசென்டர் முடுக்கிகளுடன் எவ்வாறு ஒப்பிடுகிறது?
CMP 170HX, நிலையான Ampere டேட்டாசென்டர் கார்டுகளைப் போன்ற பெரிய 64 GB நினைவகத் தாங்கல் மற்றும் அதிக நினைவக அலைவரிசையை வழங்குகிறது; இயக்கம் 250 W TDP-இல் நடைபெறுகிறது. இதன் முதன்மைச் சமரசம் சுமார் 12.1 TFLOPS என்ற குறைந்த compute throughput ஆகும்; எனவே, இது கனமான compute பணிச்சுமைகளை விட நினைவகத்தால் வரம்பிடப்பட்ட பணிகளுக்கு மிகவும் பொருத்தமானது.
இந்த GPU-விற்கு என்ன மென்பொருள் சூழல்கள் கிடைக்கின்றன?
இந்த கார்டு CUDA compute capability 8.0-ஐ ஆதரிக்கிறது; PyTorch/CUDA, vLLM, Ollama மற்றும் ComfyUI உள்ளிட்ட முன்கட்டமைக்கப்பட்ட டெம்ப்ளேட்களைப் பயன்படுத்தி ONIE-இல் இதை இயக்கலாம். தனிப்பயன் நூலகங்களை நிறுவவும் உங்கள் சூழலை நிர்வகிக்கவும் நேரடி SSH அணுகலும் கிடைக்கும்.
CMP 170HX-ஐ வாடகைக்கு எடுக்கும்போது கட்டணம் எவ்வாறு செயல்படுகிறது?
ONIE-இல் உள்ள இன்ஸ்டன்ஸ்களுக்கு மணிநேர அடிப்படையிலான கட்டணம் பொருந்தும்; உங்கள் GPU இயக்கத்தில் இருக்கும் நேரத்திற்கு மட்டுமே நீங்கள் கட்டணம் செலுத்துவீர்கள்.
CMP 170HX-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
CMP 170HX-ஐ வாடகைக்கு எடுக்கவும்