NVIDIA Tesla P40 GPU മണിക്കൂർ അടിസ്ഥാനത്തിൽ വാടകയ്ക്ക് എടുക്കുക
NVIDIA Tesla P40 എന്നത് 24 GB VRAM ഉം compute capability 6.1 ഉം ഉള്ള Pascal ആർക്കിടെക്ചർ datacenter GPU ആണ്. 250 W താപ പരിധിക്കുള്ളിൽ ഏകദേശം 9.4 TFLOPS single-precision compute-ഉം ഏകദേശം 257 GB/s memory bandwidth-ഉം ഇത് നൽകുന്നു. ONIE-ൽ, ഈ GPU മണിക്കൂർ അടിസ്ഥാനത്തിലുള്ള ബില്ലിംഗ്, SSH ആക്സസ്, PyTorch/CUDA, vLLM, Ollama, ComfyUI എന്നിവയ്ക്കുള്ള മുൻകൂട്ടി ക്രമീകരിച്ച templates എന്നിവയോടെ വാടകയ്ക്ക് എടുക്കാം.
സ്പെസിഫിക്കേഷനുകൾ
ഓരോ GPU-ക്കും VRAM
ആർക്കിടെക്ചർ
കംപ്യൂട്ട് കപ്പാസിറ്റി
FP32 കംപ്യൂട്ട്
മെമ്മറി ബാൻഡ്‌വിഡ്ത്ത്
പവർ പരിധി
ഇപ്പോൾ ലിസ്റ്റ് ചെയ്തിരിക്കുന്ന മെഷീനുകൾക്കായി ഇൻഫ്രാസ്ട്രക്ചർ ദാതാവ് നൽകിയ മൂല്യങ്ങളാണിവ; യഥാർത്ഥ പ്രകടനം ഓരോ മെഷീനിലും വ്യത്യാസപ്പെടാം.
ലഭ്യമായ കോൺഫിഗറേഷനുകൾ
തത്സമയ സ്റ്റോക്കും വിലകളും തുടർച്ചയായി അപ്‌ഡേറ്റ് ചെയ്യപ്പെടുന്നു. ഓർഡർ ചെയ്യുന്നതിന് മുമ്പ് അന്തിമ വില സ്ഥിരീകരിക്കപ്പെടും.
തത്സമയ വിലകൾ ലോഡ് ചെയ്യുന്നു…
Tesla P40 ഏതിനൊക്കെ അനുയോജ്യമാണ്
Quantized LLM ഇൻഫറൻസ്
Ollama അല്ലെങ്കിൽ vLLM പോലുള്ള തയ്യാർ templates ഉപയോഗിച്ച്, 24 GB വരെ memory ആവശ്യമുള്ള പ്രാദേശിക language models പ്രവർത്തിപ്പിക്കുക.
ഇമേജ് ജനറേഷൻ വർക്ക്ഫ്ലോകൾ
ഒന്നിലധികം checkpoints-ഉം control nets-ഉം ലോഡ് ചെയ്യുന്നതിന് ധാരാളം VRAM ശേഷിയിൽ നിന്ന് പ്രയോജനം നേടുന്ന ComfyUI pipelines ഹോസ്റ്റ് ചെയ്യുക.
Legacy CUDA ഡെവലപ്‌മെന്റ്
Pascal ആർക്കിടെക്ചറും compute capability 6.1ഉം ലക്ഷ്യമാക്കിയുള്ള PyTorch/CUDA ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കുക, പരീക്ഷിക്കുക, പരിപാലിക്കുക.
മെമ്മറി-പരിമിത ബാച്ച് പ്രോസസ്സിംഗ്
പ്രോസസ്സിംഗ് വേഗതയെക്കാൾ വലിയ datasets 24 GB VRAM-ൽ ഒതുക്കുന്നതിന് മുൻഗണന നൽകുന്ന datacenter workloads പ്രവർത്തിപ്പിക്കുക.
ഇത് നിങ്ങൾക്ക് അനുയോജ്യമായ GPU ആണോ?
മെമ്മറി ആവശ്യമുള്ള ഇൻഫറൻസ് അല്ലെങ്കിൽ വികസന ജോലികൾക്ക് 24 GB VRAM ആണ് പ്രധാന ആവശ്യമെങ്കിലും പഴയ Pascal compute മതിയാകുമെങ്കിൽ Tesla P40 തിരഞ്ഞെടുക്കുക. ഉയർന്ന memory bandwidth അല്ലെങ്കിൽ ഭാരമേറിയ training-നുള്ള ആധുനിക tensor acceleration ആവശ്യമെങ്കിൽ പുതിയതോ വലുതോ ആയ GPU തിരഞ്ഞെടുക്കുക; നിങ്ങളുടെ workload കുറച്ച് മെമ്മറി മാത്രം ഉപയോഗിക്കുന്നുവെങ്കിൽ ചെറിയ GPU തിരഞ്ഞെടുക്കുക.
സമാന GPU-കളുമായി താരതമ്യം ചെയ്യുക
| GPU | ഓരോ GPU-ക്കും VRAM | ആർക്കിടെക്ചർ | FP32 കംപ്യൂട്ട് | മണിക്കൂറിന് മുതൽ | വിശദാംശങ്ങൾ |
|---|---|---|---|---|---|
| Tesla P40 | 24 GB | Pascal | ≈ 9.4 TFLOPS | — | |
| Tesla V100 | 16 GB | Volta | ≈ 12.5 TFLOPS | — | വിശദാംശങ്ങൾ |
| Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | — | വിശദാംശങ്ങൾ |
| GTX 1080 Ti | 11 GB | Pascal | ≈ 11 TFLOPS | — | വിശദാംശങ്ങൾ |
പതിവായി ചോദിക്കുന്ന ചോദ്യങ്ങൾ
വലിയ language models പ്രവർത്തിപ്പിക്കാൻ Tesla P40 അനുയോജ്യമാണോ?
24 GB VRAM ശേഷി കാരണം, Ollama പോലുള്ള templates ഉപയോഗിച്ച് ഇടത്തരം വലുപ്പമുള്ള quantized language models Tesla P40-ന്റെ മെമ്മറിയിൽ സൂക്ഷിക്കാൻ കഴിയും. എന്നാൽ ഇതിന്റെ memory bandwidth ഏകദേശം 257 GB/s ആണെന്നും പഴയ Pascal ആർക്കിടെക്ചറാണ് ഉപയോഗിക്കുന്നതെന്നും കണക്കിലെടുക്കുമ്പോൾ, പുതിയ datacenter GPU-കളെ അപേക്ഷിച്ച് token generation വേഗത കുറവായിരിക്കും.
compute capability 6.1-ൽ ഏതൊക്കെ software compatibility പ്രതീക്ഷിക്കാം?
Compute capability 6.1 ഏകദേശം 9.4 TFLOPS-ൽ സാധാരണ single-precision workloads പിന്തുണയ്ക്കുന്നു; ഇത് പൊതു PyTorch/CUDA templates-മായി നന്നായി പ്രവർത്തിക്കുന്നു. പുതിയ hardware instructions ആവശ്യമുള്ള ചില ആധുനിക machine learning libraries അല്ലെങ്കിൽ സവിശേഷതകൾ Pascal ആർക്കിടെക്ചറിൽ പ്രവർത്തിച്ചേക്കില്ല.
ONIE-ൽ എന്റെ Tesla P40 instance-ലേക്ക് എങ്ങനെ കണക്ട് ചെയ്ത് സജ്ജമാക്കാം?
PyTorch/CUDA, vLLM, Ollama അല്ലെങ്കിൽ ComfyUI-ക്കുള്ള തയ്യാർ templates ഉപയോഗിച്ച് instance deploy ചെയ്യാം. നിങ്ങളുടെ terminal-ൽ നിന്ന് ഫയലുകളും ഇഷ്ടാനുസൃത environments-ഉം നിയന്ത്രിക്കാൻ കഴിയുന്ന തരത്തിൽ നേരിട്ടുള്ള SSH ആക്സസ് ഉൾപ്പെടുത്തിയിട്ടുണ്ട്.
Tesla P40 വാടകയ്ക്ക് എടുക്കുന്നതിനുള്ള ബില്ലിംഗ് എങ്ങനെയാണ് പ്രവർത്തിക്കുന്നത്?
ONIE-ലെ instances മണിക്കൂർ അടിസ്ഥാനത്തിലുള്ള ബില്ലിംഗ് ഉപയോഗിക്കുന്നു; datacenter GPU instance സജീവമായിരിക്കുന്ന സമയത്തിന് മാത്രം പണം നൽകിയാൽ മതി.
Tesla P40 മണിക്കൂർ അടിസ്ഥാനത്തിൽ വാടകയ്ക്ക് എടുക്കുക
ഒരു അക്കൗണ്ട് സൃഷ്ടിക്കുക, കോൺഫിഗറേഷൻ തിരഞ്ഞെടുക്കുക, SSH വഴി കണക്ട് ചെയ്യുക. GPU ഡിലീറ്റ് ചെയ്യുമ്പോൾ ബില്ലിംഗ് നിർത്തും.
Tesla P40 വാടകയ്ക്ക് എടുക്കുക