NVIDIA H200 NVL GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA H200 NVL என்பது நினைவக-அதிக பணிச்சுமைகளுக்காக உருவாக்கப்பட்ட Hopper கட்டமைப்பு datacenter GPU ஆகும். இது 140 GB VRAM மற்றும் சுமார் 3884 GB/s நினைவக அலைவரிசையை வழங்குகிறது. இது 600 W மின் வரம்பில் இயங்குகிறது, compute capability 9.0-ஐ ஆதரிக்கிறது, மேலும் சுமார் 48.3 TFLOPS நிலையான floating-point compute செயல்திறனை வழங்குகிறது. ONIE தளத்தில் மணி அடிப்படையிலான கட்டணத்துடன், நேரடி SSH அணுகலுடனும் தயார் வார்ப்புருக்களுடனும் இந்த செயலியை நீங்கள் பயன்படுத்தலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
H200 NVL எதற்கு ஏற்றது
Large Language Model அனுமானம்
140 GB VRAM திறனையும் சுமார் 3884 GB/s நினைவக அலைவரிசையையும் பயன்படுத்தி, மாதிரிகளைப் பிரிக்காமல் பெரிய மாதிரிகளை நினைவகத்திலேயே இயக்குங்கள்.
மாதிரி Fine-Tuning மற்றும் பயிற்சி
Hopper compute capability 9.0 மற்றும் பெரிய batch அளவுகளுக்கான விசாலமான GPU நினைவகத்தைப் பயன்படுத்தி deep learning மாதிரிகளைப் பயிற்றுவித்துத் தகவமைக்கவும்.
அதிக throughput தொகுதி செயலாக்கம்
முன்-கட்டமைக்கப்பட்ட PyTorch/CUDA, vLLM அல்லது Ollama வார்ப்புருக்களைப் பயன்படுத்தி மிகப் பெரிய தரவுத்தொகுப்புகளையும் நீண்ட context windows-ஐயும் திறம்படச் செயலாக்குங்கள்.
அறிவியல் கணினி மற்றும் உருவகப்படுத்துதல்
சுமார் 48.3 TFLOPS நிலையான floating-point செயல்திறனும் கணிசமான onboard நினைவகமும் தேவைப்படும் சிக்கலான datacenter உருவகப்படுத்துதல்களை இயக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
உங்கள் முதன்மைத் தடை VRAM திறன் மற்றும் நினைவக அலைவரிசையாக இருக்கும்போது, குறிப்பாக ஒரே அட்டையில் பெரிய மாதிரிகளை ஹோஸ்ட் செய்ய, H200 NVL-ஐத் தேர்ந்தெடுக்கவும். 140 GB நினைவகம் தேவையில்லாத இலகுவான அனுமானம், நிலையான image generation அல்லது development பணிகளுக்கு, சிறிய workstation அல்லது consumer GPU மிகவும் நடைமுறைக்கு ஏற்றது.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
நிலையான Hopper GPU-விற்குப் பதிலாக H200 NVL-ஐ ஏன் தேர்வு செய்ய வேண்டும்?
H200 NVL 140 GB VRAM மற்றும் சுமார் 3884 GB/s நினைவக அலைவரிசையை வழங்குகிறது. இது முந்தைய Hopper தலைமுறை அட்டைகளின் நினைவகத் திறன் மற்றும் அலைவரிசையை விட அதிகம். இதன் மூலம் பெரிய மாதிரிகளும் நீண்ட context windows-உம் ஒரே GPU-வில் பொருந்த முடியும்.
vLLM அல்லது Ollama உடன் LLM serving-க்கு H200 NVL பொருத்தமானதா?
ஆம், 140 GB நினைவகத் தொகுப்பும் அதிக நினைவக அலைவரிசையும் பெரிய LLM-களை serve செய்வதற்கு ஏற்றவையாக உள்ளன. விரைவாகத் தொடங்க ONIE vLLM மற்றும் Ollama இரண்டுக்கும் தயார் வார்ப்புருக்களை வழங்குகிறது.
எந்த மென்பொருள் சூழல்களும் அணுகல் முறைகளும் கிடைக்கின்றன?
ஒவ்வொரு instance-உடனும் தனிப்பயன் கட்டமைப்புக்காக முழு SSH அணுகல் கிடைக்கும். PyTorch/CUDA, vLLM, Ollama மற்றும் ComfyUI உள்ளிட்ட முன்-நிறுவப்பட்ட வார்ப்புருக்களுடன் instances-ஐத் தொடங்கவும் முடியும்.
ONIE-இல் H200 NVL-க்கான கட்டணம் எவ்வாறு செயல்படுகிறது?
Instances மணி அடிப்படையில் கட்டணம் வசூலிக்கப்படுகின்றன. உங்கள் H200 NVL instance செயலில் இருக்கும் நேரத்திற்கு மட்டுமே நீங்கள் கட்டணம் செலுத்துவீர்கள்.
H200 NVL-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
H200 NVL-ஐ வாடகைக்கு எடுக்கவும்