NVIDIA H100 NVL GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA H100 NVL என்பது 94 GB VRAM மற்றும் compute capability 9.0 கொண்ட Hopper கட்டமைப்பு datacenter GPU ஆகும். இது 400 W வெப்ப வரம்பிற்குள் சுமார் 48.3 TFLOPS single-precision செயல்திறனையும் சுமார் 3381 GB/s memory bandwidth-ஐயும் வழங்குகிறது. ONIE தளத்தில் H100 NVL-ஐ மணிநேர அடிப்படையிலான கட்டணம், SSH அணுகல் மற்றும் PyTorch/CUDA, vLLM, Ollama, ComfyUI-க்கான தயார் நிலை டெம்ப்ளேட்களுடன் வாடகைக்கு எடுக்கலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
H100 NVL எதற்கு ஏற்றது
Large Language Model அனுமானம்
94 GB VRAM மற்றும் சுமார் 3381 GB/s memory bandwidth-ஐப் பயன்படுத்தி, வேகமான token உருவாக்கத்திற்காக vLLM அல்லது Ollama மூலம் அதிக கொள்ளளவு கொண்ட மொழி மாதிரிகளை இயக்குங்கள்.
Deep Learning நுண்-சீரமைப்பு
Hopper கட்டமைப்பு அம்சங்கள் மற்றும் compute capability 9.0-ஐப் பயன்படுத்தி PyTorch-இல் neural networks-ஐ பயிற்சியளித்து நுண்-சீரமைக்கவும்.
உயர் தெளிவுத்திறன் பட உருவாக்கம்
சிக்கலான ComfyUI workflows மற்றும் பெரிய diffusion pipelines-ஐ system RAM-க்கு மாற்றாமல், நினைவகத்திலேயே இயக்குங்கள்.
அறிவியல் கணினியியல் மற்றும் உருவகப்படுத்தல்
சுமார் 48.3 TFLOPS single-precision கணக்கீட்டுத் திறனால் பயனடையும் நினைவக-அதிக தேவையுள்ள datacenter பணிச்சுமைகளை இயக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
உங்கள் AI அல்லது கணினிப் பணிச்சுமைகளுக்கு நிலையான datacenter கார்டுகள் வழங்குவதை விட அதிக நினைவகம் தேவைப்படும்போது, 94 GB VRAM வரை கொண்ட H100 NVL-ஐத் தேர்ந்தெடுங்கள். இலகுவான அனுமானம் மற்றும் மேம்பாட்டிற்கு சிறிய workstation அல்லது consumer GPU சிறந்த தேர்வாகும்; உங்கள் மாதிரிகள் 94 GB-ஐத் தாண்டினால் multi-GPU அமைப்பு அல்லது பெரிய நினைவகப் பிரிவு அவசியம்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
H100 NVL, LLM அனுமானம் மற்றும் நுண்-சீரமைப்புக்கு ஏற்றதா?
ஆம், இதன் 94 GB VRAM மற்றும் சுமார் 3381 GB/s memory bandwidth, சிறிய datacenter GPU-களில் பொருந்தாத பெரிய மொழி மாதிரிகளுக்குச் சேவையளிக்கவும் நுண்-சீரமைக்கவும் இதை மிகவும் பொருத்தமாக்குகின்றன.
H100 NVL நிலையான H100 வகைகளுடன் எவ்வாறு ஒப்பிடுகிறது?
H100 NVL விரிவாக்கப்பட்ட 94 GB VRAM கொள்ளளவையும் 400 W மின் வரம்பையும் கொண்டுள்ளது; நிலையான Hopper datacenter கட்டமைப்புகளுடன் ஒப்பிடும்போது கூடுதல் நினைவகத் திறனை வழங்குகிறது.
இந்த GPU-க்கு ONIE தளத்தில் என்ன மென்பொருள் டெம்ப்ளேட்கள் கிடைக்கின்றன?
PyTorch/CUDA, vLLM, Ollama மற்றும் ComfyUI-க்கான முன்-கட்டமைக்கப்பட்ட டெம்ப்ளேட்களைப் பயன்படுத்தி H100 NVL-ஐ நிறுவலாம்; இவை அனைத்தும் compute capability 9.0-ஐ ஆதரிக்கின்றன.
H100 NVL-ஐ வாடகைக்கு எடுக்கும்போது கட்டணம் மற்றும் அணுகல் எவ்வாறு செயல்படுகின்றன?
ONIE இல் உள்ள instances மணிநேர அடிப்படையிலான கட்டணத்தைப் பயன்படுத்துகின்றன; உங்கள் சூழலையும் workflows-ஐயும் உடனடியாக நிர்வகிக்க நேரடி SSH அணுகலை வழங்குகின்றன.
H100 NVL-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
H100 NVL-ஐ வாடகைக்கு எடுக்கவும்