NVIDIA H100 PCIE GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA H100 PCIE என்பது ஆழமான கற்றல் மற்றும் அறிவியல் கணினி பணிச்சுமைகளுக்காக உருவாக்கப்பட்ட Hopper கட்டமைப்பு தரவு மைய GPU ஆகும். இது 80 GB VRAM, சுமார் 1760 GB/s நினைவக அலைவரிசை மற்றும் 350 W மின் வரம்பிற்குள் சுமார் 41.0 TFLOPS நிலையான மிதவைப் புள்ளி கணினி திறனை வழங்குகிறது. ONIE இல், நீங்கள் இந்த compute capability 9.0 முடுக்கியை மணிநேர அடிப்படையிலான கட்டணத்துடனும் முழு SSH அணுகலுடனும் பயன்படுத்தலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
H100 PCIE எதற்கு ஏற்றது
பெரிய மொழி மாதிரி (LLM) அனுமானம்
80 GB VRAM மற்றும் உயர் நினைவக அலைவரிசையைப் பயன்படுத்தி பெரிய மொழி மாதிரிகளை நினைவகத்தில் சேவை செய்யுங்கள், முன்கட்டமைக்கப்பட்ட vLLM அல்லது Ollama வார்ப்புருக்களுடன்.
மாதிரி நுண்-சரிப்படுத்தல் மற்றும் பயிற்சி
Hopper கட்டமைப்பையும் தயார் நிலை PyTorch/CUDA சூழல்களையும் பயன்படுத்தி ஆழமான நரம்பியல் வலையமைப்புகளைப் பயிற்சி செய்யுங்கள் அல்லது நுண்-சரிப்படுத்துங்கள்.
தொகுப்பு படம் உருவாக்கம்
அதிக நினைவகத் திறனால் பயனடையும் அதிக செயலாக்க வேக diffusion pipelines மற்றும் சிக்கலான ComfyUI பணிப்பாய்வுகளை இயக்குங்கள்.
தரவு அறிவியல் மற்றும் உருவகப்படுத்தல்
சுமார் 41.0 TFLOPS நிலையான மிதவைப் புள்ளி செயல்திறன் மற்றும் சுமார் 1760 GB/s நினைவக செயல்திறனுடன் கணக்கீட்டு ரீதியாகத் தீவிரமான உருவகப்படுத்தல்களையும் தரவு செயலாக்கப் பணிகளையும் இயக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
உங்கள் பணிச்சுமைகளுக்கு 80 GB VRAM, தரவு மைய தர நினைவக அலைவரிசை மற்றும் Hopper compute capability 9.0 அம்சங்கள் தேவைப்படும்போது H100 PCIE ஐத் தேர்ந்தெடுக்கவும். இலகுவான அனுமானம் அல்லது சிறிய மாதிரிகளுக்கு, குறைந்த VRAM கொண்ட பணிநிலைய அல்லது நுகர்வோர் GPU அதிக சிக்கனமானது; மிக அதிக செயல்திறன் தேவைகளுக்கு SXM அடிப்படையிலான தரவு மைய மாறுபாடு பொருத்தமாக இருக்கலாம்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
H100 PCIE பெரிய மொழி மாதிரி நுண்-சரிப்படுத்தலுக்கும் அனுமானத்திற்கும் ஏற்றதா?
ஆம், இதன் 80 GB VRAM மற்றும் சுமார் 1760 GB/s நினைவக அலைவரிசை பெரிய மாதிரிகளை ஹோஸ்ட் செய்யவும் பயிற்சி அளிக்கவும் நன்கு பொருந்துகின்றன. PyTorch/CUDA, vLLM அல்லது Ollama க்கான முன்கட்டமைக்கப்பட்ட வார்ப்புருக்களைப் பயன்படுத்தி உடனடியாகத் தொடங்கலாம்.
H100 PCIE, SXM அல்லது சிறிய பணிநிலைய GPU களுடன் எவ்வாறு ஒப்பிடுகிறது?
H100 PCIE 350 W TDP இல் இயங்குகிறது; அதிக wattage கொண்ட SXM தரவு மைய மாறுபாடுகளுடன் ஒப்பிடும்போது குறைந்த மின் நுகர்வு மற்றும் நிலையான PCIe இணக்கத்தன்மையை வழங்குகிறது. பணிநிலைய அல்லது நுகர்வோர் அட்டைகளுடன் ஒப்பிடும்போது, 80 GB உடன் கணிசமாக அதிக VRAM மற்றும் அதிக நினைவக அலைவரிசையை வழங்குகிறது.
இந்த GPU-வில் என்ன மென்பொருள் ஆதரவு மற்றும் compute capability உள்ளது?
NVIDIA Hopper கட்டமைப்பை அடிப்படையாகக் கொண்ட H100 PCIE, CUDA compute capability 9.0 ஐ ஆதரிக்கிறது. PyTorch/CUDA மற்றும் ComfyUI உள்ளடங்கிய தயார் வார்ப்புருக்களுடன் நிகழ்வுகளைத் தொடங்கலாம் அல்லது SSH அணுகல் மூலம் உங்கள் சொந்த அடுக்கை அமைக்கலாம்.
ONIE இல் H100 PCIE நிகழ்வுகளுக்கான கட்டணம் எவ்வாறு செயல்படுகிறது?
ONIE இல் உள்ள நிகழ்வுகள் எளிமையான மணிநேர அடிப்படையிலான கட்டணத்தைப் பயன்படுத்துகின்றன; உங்கள் GPU செயலில் இருக்கும் நேரத்திற்கு மட்டுமே பணம் செலுத்துகிறீர்கள். ஒவ்வொரு வரிசைப்படுத்தலுடனும் முழு SSH அணுகல் சேர்க்கப்பட்டுள்ளது.
H100 PCIE-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
H100 PCIE-ஐ வாடகைக்கு எடுக்கவும்