NVIDIA H100 SXM GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA H100 SXM என்பது 80 GB VRAM மற்றும் 700 W மின் வரம்புடன் கூடிய Hopper கட்டமைப்பு டேட்டாசென்டர் GPU ஆகும். இது சுமார் 53.5 TFLOPS நிலையான floating-point கணக்கீட்டையும், சுமார் 2869 GB/s நினைவக அலைவரிசையையும் வழங்குகிறது; CUDA compute capability 9.0-ஐ ஆதரிக்கிறது. ONIE-இல் ஒரு மணி நேர அடிப்படையிலான பில்லிங், முழு SSH அணுகல் மற்றும் PyTorch/CUDA, vLLM, Ollama, ComfyUI-க்கான தயார் டெம்ப்ளேட்டுகளுடன் இதை வாடகைக்கு எடுக்கலாம்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
H100 SXM எதற்கு ஏற்றது
Large Language Model அனுமானம்
80 GB VRAM கொள்ளளவு மற்றும் சுமார் 2869 GB/s நினைவக அலைவரிசையைப் பயன்படுத்தி, vLLM அல்லது Ollama டெம்ப்ளேட்டுகள் வழியாக தேவையான மொழி மாதிரிகளை உற்பத்தி சூழலில் நிறுவுங்கள்.
ஆழ்கற்றல் ஃபைன்-டியூனிங்
Hopper கட்டமைப்பு மற்றும் CUDA compute capability 9.0 உடன், முன்கட்டமைக்கப்பட்ட PyTorch/CUDA சூழல்களைப் பயன்படுத்தி நரம்பியல் வலையமைப்புகளைப் பயிற்றுவித்து ஃபைன்-டியூன் செய்யுங்கள்.
அதிக வெளியீட்டுத் திறன் கொண்ட தொகுதி செயலாக்கம்
700 W டேட்டாசென்டர் வடிவமைப்பில் சுமார் 53.5 TFLOPS கணக்கீட்டு செயல்திறனால் பயனடையும் தீவிர தரவு செயலாக்கம் மற்றும் உருவகப்படுத்தல் பணிச்சுமைகளை இயக்குங்கள்.
பெரிய அளவிலான உருவாக்க மீடியா பணிப்பாய்வுகள்
80 GB நினைவகத் தொகுப்பிற்குள் எளிதாகப் பொருந்தும் பெரிய தொகுதி அளவுகளுடன், சிக்கலான ComfyUI பைப்லைன்களையும் diffusion மாதிரிகளையும் இயக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
உங்கள் பயிற்சி அல்லது அனுமானப் பணிச்சுமைகளுக்கு 80 GB உயர் அலைவரிசை டேட்டாசென்டர் நினைவகமும் Hopper கட்டமைப்பு அம்சங்களும் தேவைப்பட்டால் H100 SXM-ஐத் தேர்ந்தெடுக்கவும். இலகுவான மேம்பாடு அல்லது சிறிய மாதிரிகளுக்கு சிறிய workstation அல்லது நுகர்வோர் GPU மிகவும் நடைமுறைக்கு ஏற்ற தேர்வாகும்; ஒரு நிகழ்வில் உங்கள் முழு மாதிரியையும் 80 GB VRAM-இல் பொருத்த முடியாவிட்டால், அதிக கொள்ளளவு கொண்ட புதிய டேட்டாசென்டர் GPU மேலானதாக இருக்கும்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
H100 SXM, LLM ஃபைன்-டியூனிங் மற்றும் அனுமானத்திற்கு ஏற்றதா?
ஆம், அதன் 80 GB VRAM மற்றும் சுமார் 2869 GB/s நினைவக அலைவரிசை, பெரிய மொழி மாதிரிகளை வழங்குவதற்கும் ஃபைன்-டியூன் செய்வதற்கும் இதை நன்கு பொருத்தமாக்குகிறது. vLLM, Ollama அல்லது PyTorch/CUDA-க்கான தயார் டெம்ப்ளேட்டுகளைப் பயன்படுத்தி ONIE-இல் உடனடியாகத் தொடங்கலாம்.
SXM வகை, குறைந்த மின் திறன் கொண்ட டேட்டாசென்டர் அல்லது workstation GPU-களுடன் எவ்வாறு ஒப்பிடுகிறது?
H100 SXM 700 W வெப்ப வடிவமைப்பு மின் திறனில் இயங்குவதால், PCIe டேட்டாசென்டர் வகைகள் அல்லது workstation அட்டைகளை விட அதிக கணக்கீட்டு செயல்திறனையும் நினைவக அலைவரிசையையும் தொடர்ந்து வழங்க முடிகிறது. உங்கள் பணிச்சுமை சுமார் 53.5 TFLOPS கணக்கீடு அல்லது 80 GB நினைவகத்தை முழுமையாகப் பயன்படுத்தவில்லை என்றால், சிறிய GPU போதுமானதாக இருக்கலாம்.
CUDA compute capability 9.0 எந்த மென்பொருள் இணக்கத்தன்மையை வழங்குகிறது?
Compute capability 9.0, NVIDIA Hopper கட்டமைப்பின் instructions மற்றும் அம்சங்களுக்கான வன்பொருள் ஆதரவைக் குறிக்கிறது. எங்கள் முன்கட்டமைக்கப்பட்ட PyTorch/CUDA டெம்ப்ளேட்டுகள், கைமுறை driver அமைப்பு இல்லாமலேயே இந்த வன்பொருளைப் பயன்படுத்தத் தயாராக வருகின்றன.
ONIE-இல் பில்லிங் மற்றும் இன்ஸ்டன்ஸ் அணுகல் எவ்வாறு செயல்படுகிறது?
வாடகைக் காலம் முழுவதும் இன்ஸ்டன்ஸ்கள் ஒரு மணி நேர அடிப்படையில் பில் செய்யப்படும். பயன்படுத்தத் தொடங்கியதும், SSH அணுகல் மூலம் உங்கள் சூழலுடன் நேரடியாக இணையலாம் அல்லது ComfyUI போன்ற முன்நிறுவப்பட்ட கருவிகளுடன் பணியாற்றலாம்.
H100 SXM-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
H100 SXM-ஐ வாடகைக்கு எடுக்கவும்