NVIDIA L4 GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
NVIDIA L4 என்பது 22 GB VRAM மற்றும் 72 W மின் அளவு கொண்ட Ada Lovelace கட்டமைப்பு டேட்டாசென்டர் GPU ஆகும். இது CUDA compute capability 8.9 உடன் சுமார் 24.2 TFLOPS ஒற்றை துல்லிய (single-precision) மிதவைப் புள்ளி செயல்திறனையும், சுமார் 221 GB/s நினைவக அலைவரிசையையும் வழங்குகிறது. மணிநேர அடிப்படையிலான கட்டணம், முழு SSH அணுகல் மற்றும் PyTorch/CUDA, vLLM, Ollama, ComfyUI ஆகியவற்றுக்கான தயார் டெம்ப்ளேட்டுகளுடன் ONIE-இல் இதை வாடகைக்கு எடுங்கள்.
விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
கட்டமைப்பு
Compute capability
FP32 கணினி திறன்
நினைவக அலைவரிசை
மின் வரம்பு
தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.
கிடைக்கக்கூடிய கட்டமைப்புகள்
நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
நேரடி விலைகள் ஏற்றப்படுகின்றன…
L4 எதற்கு ஏற்றது
மொழி மாதிரி அனுமானம்
முன்கட்டமைக்கப்பட்ட vLLM அல்லது Ollama டெம்ப்ளேட்டுகளைப் பயன்படுத்தி 22 GB VRAM இடையகத்தில் குவாண்டைஸ் செய்யப்பட்ட அல்லது சிறிய முதல் நடுத்தர அளவிலான மொழி மாதிரிகளை இயக்குங்கள்.
பட உருவாக்கப் பணிப்பாய்வுகள்
Ada Lovelace கட்டமைப்பு அம்சங்களைப் பயன்படுத்தும்போது 22 GB நினைவகத்திற்குள் வசதியாகப் பொருந்தும் ComfyUI பைப்லைன்களை வரிசைப்படுத்துங்கள்.
இலகுரக நுணுக்கச் சரிப்படுத்தல்
உயர் மின் திறன் கொண்ட டேட்டாசென்டர் அட்டை தேவையின்றி PyTorch/CUDA சூழல்களில் அளவுரு-திறனுள்ள நுணுக்கச் சரிப்படுத்தல் மற்றும் அடாப்டர் பயிற்சிப் பணிகளை இயக்குங்கள்.
தொகுதி மீடியா மற்றும் பார்வை
72 W மதிப்பீடு கொண்ட டேட்டாசென்டர் GPU-வில் கணினி பார்வை அனுமானம் மற்றும் வீடியோ பணிச்சுமைகளைச் செயலாக்குங்கள்.
இது உங்களுக்கு சரியான GPU-வா?
அதிக 22 GB VRAM மற்றும் Ada Lovelace compute capability 8.9 தேவைப்படும்போது அனுமானம் அல்லது மிதமான பயிற்சிப் பணிகளுக்கு L4-ஐத் தேர்ந்தெடுக்கவும். மாதிரிகள் 22 GB-ஐ மீறினால் அல்லது சுமார் 221 GB/s-ஐ விட அதிக நினைவக அலைவரிசை தேவைப்பட்டால் பெரிய டேட்டாசென்டர் GPU-விற்கு மாறுங்கள்; குறைந்த நினைவகம் தேவைப்படும் அடிப்படை மேம்பாட்டுப் பணிகளுக்கு சிறிய அட்டையைத் தேர்ந்தெடுக்கலாம்.
இதே போன்ற GPU-க்களுடன் ஒப்பிடுக
அடிக்கடி கேட்கப்படும் கேள்விகள்
NVIDIA L4 LLM அனுமானத்திற்கு ஏற்றதா?
ஆம், 22 GB VRAM சிறிய மற்றும் நடுத்தர மொழி மாதிரிகள் அல்லது குவாண்டைஸ் செய்யப்பட்ட எடைகளை ஹோஸ்ட் செய்ய உதவுகிறது. மாதிரிகளுக்குச் சேவை வழங்கத் தொடங்க ONIE-இல் vLLM அல்லது Ollama டெம்ப்ளேட்டுகளை உடனடியாகத் தொடங்கலாம்.
L4 பெரிய டேட்டாசென்டர் GPU-களுடன் எவ்வாறு ஒப்பிடுகிறது?
L4 குறைந்த 72 W மின் நுகர்வு, சுமார் 24.2 TFLOPS ஒற்றை துல்லிய கணக்கீடு மற்றும் சுமார் 221 GB/s நினைவக அலைவரிசையுடன் திறனுக்காக வடிவமைக்கப்பட்டுள்ளது. பெரிய டேட்டாசென்டர் GPU-கள் கனமான பயிற்சிக்கு அதிக VRAM மற்றும் அதிக நினைவக அலைவரிசையை வழங்குகின்றன; L4 செலவு-திறனுள்ள அனுமானம் மற்றும் இலகுவான பணிச்சுமைகளில் கவனம் செலுத்துகிறது.
ONIE-இல் L4-க்கு என்ன மென்பொருள் டெம்ப்ளேட்டுகள் கிடைக்கின்றன?
PyTorch/CUDA, vLLM, Ollama மற்றும் ComfyUI ஆகியவற்றுக்கான தயார் டெம்ப்ளேட்டுகளைப் பயன்படுத்தி L4-ஐ வரிசைப்படுத்தலாம். எல்லா நிகழ்வுகளிலும் SSH அணுகல் உள்ளது, இதனால் நீங்கள் உங்கள் மென்பொருள் சூழலையும் CUDA compute capability 8.9 பணிப்பாய்வுகளையும் தனிப்பயனாக்கலாம்.
L4 நிகழ்வுகளுக்கான கட்டணம் எவ்வாறு செயல்படுகிறது?
ONIE L4 நிகழ்வுகளுக்கு மணிநேர அடிப்படையில் கட்டணம் வசூலிக்கிறது. உங்கள் நிகழ்வு செயலில் இருக்கும் நேரத்திற்கு மட்டுமே பணம் செலுத்துகிறீர்கள், இது குறுகிய சோதனைகள் மற்றும் தொடர்ச்சியான அனுமானப் பணிகள் இரண்டிற்கும் நடைமுறைக்கு உகந்தது.
L4-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்
கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.
L4-ஐ வாடகைக்கு எடுக்கவும்