GPU Cloud · NVIDIA · Turing

NVIDIA RTX 2080 Ti GPU-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்

NVIDIA RTX 2080 Ti என்பது Turing கட்டமைப்பைச் சேர்ந்த நுகர்வோர் GPU ஆகும், இதை ONIE இல் தேவைக்கேற்ப வாடகைக்கு எடுக்கலாம். இது 11 GB VRAM உடன் சுமார் 501 GB/s நினைவக அலைவரிசையும், சுமார் 14.6 TFLOPS ஒற்றை-துல்லிய கணினித் திறனும் கொண்டுள்ளது. 250 W TDP மற்றும் கம்ப்யூட் திறன் 7.5 கொண்ட இது, மணி நேர அடிப்படையிலான கட்டணத்துடன் இலகுவான இயந்திர கற்றல், இன்ஃபரன்ஸ் மற்றும் கிராஃபிக்ஸ் பணிச்சுமைகளைக் கையாளும்.

விவரக்குறிப்புகள்

ஒரு GPU-க்கான VRAM

11 GB

கட்டமைப்பு

NVIDIA Turing

Compute capability

7.5

FP32 கணினி திறன்

≈ 14.6 TFLOPS

நினைவக அலைவரிசை

≈ 501 GB/s

மின் வரம்பு

250 W

தற்போது பட்டியலிடப்பட்டுள்ள இயந்திரங்களுக்கு உள்கட்டமைப்பு வழங்குநர் அறிவித்த மதிப்புகள்; உண்மையான செயல்திறன் இயந்திரத்துக்கு இயந்திரம் மாறுபடும்.

கிடைக்கக்கூடிய கட்டமைப்புகள்

நேரடி இருப்பு மற்றும் விலைகள், தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.

நேரடி விலைகள் ஏற்றப்படுகின்றன…

RTX 2080 Ti எதற்கு ஏற்றது

குவாண்டைஸ் செய்யப்பட்ட LLM இன்ஃபரன்ஸ்

11 GB VRAM இல் பொருந்தக்கூடிய சிறிய அல்லது குவாண்டைஸ் செய்யப்பட்ட மொழி மாதிரிகளை, தயார் நிலையில் உள்ள Ollama அல்லது vLLM டெம்ப்ளேட்களைப் பயன்படுத்தி இயக்கவும்.

படம் உருவாக்கப் பணிப்பாய்வுகள்

11 GB நினைவகத்திற்குள் வசதியாக இயங்கும் டிஃப்யூஷன் பைப்லைன்களைச் சோதிக்கவும், படங்களை உருவாக்கவும் ComfyUI-ஐ நிறுவவும்.

ஆழ்ந்த கற்றல் முன்மாதிரி உருவாக்கம்

பெரிய வன்பொருளுக்கு அளவிடுவதற்கு முன், கம்ப்யூட் திறன் 7.5 கொண்ட Turing GPU-வில் PyTorch மற்றும் CUDA குறியீட்டை எழுதவும், பிழைதிருத்தவும், சோதிக்கவும்.

தொகுதி தரவு செயலாக்கம்

GPU-முடுக்கப்பட்ட தரவு பைப்லைன்கள் மற்றும் ரெண்டரிங்கிற்காக சுமார் 14.6 TFLOPS ஒற்றை-துல்லிய செயல்திறனையும் சுமார் 501 GB/s நினைவக அலைவரிசையையும் பயன்படுத்தவும்.

இது உங்களுக்கு சரியான GPU-வா?

மேம்பாடு, சிறிய மாதிரிகளில் இன்ஃபரன்ஸ், மற்றும் 11 GB VRAM க்குள் பொருந்தும் மிதமான பயிற்சிப் பணிகளுக்கு RTX 2080 Ti-ஐத் தேர்ந்தெடுக்கவும். பெரிய அளவிலான பயிற்சி அல்லது குவாண்டைஸ் செய்யப்படாத மாதிரிகளுக்கு அதிக நினைவகமும் புதிய கட்டமைப்பும் கொண்ட GPU-வைத் தேர்ந்தெடுக்கவும்; அல்லது அடிப்படை பிழைதிருத்தத்திற்கு சிறிய நுகர்வோர் அட்டைக்கு மாறவும்.

இதே போன்ற GPU-க்களுடன் ஒப்பிடுக

GPUஒரு GPU-க்கான VRAMகட்டமைப்புFP32 கணினி திறன்மணிக்கு முதல்விவரங்கள்
RTX 2080 Ti11 GBTuring≈ 14.6 TFLOPS—
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—விவரங்கள்
RTX 306012 GBAmpere≈ 12 TFLOPS—விவரங்கள்
RTX 3060 Ti8 GBAmpere≈ 15.7 TFLOPS—விவரங்கள்

அடிக்கடி கேட்கப்படும் கேள்விகள்

RTX 2080 Ti, LLM இன்ஃபரன்ஸ் மற்றும் படம் உருவாக்கத்திற்கு ஏற்றதா?

ஆம், இதன் 11 GB VRAM மற்றும் சுமார் 501 GB/s நினைவக அலைவரிசை, சிறிய அல்லது குவாண்டைஸ் செய்யப்பட்ட மொழி மாதிரிகளையும் நிலையான டிஃப்யூஷன் மாதிரிகளையும் இயக்கக்கூடியவை. 11 GB-ஐ விடப் பெரிய மாதிரிகளுக்கோ, கம்ப்யூட் திறன் 7.5-ஐத் தாண்டிய புதிய கட்டமைப்புகளின் அம்சங்கள் தேவைப்படும் மாதிரிகளுக்கோ, அதிக நினைவகம் கொண்ட GPU-வை வாடகைக்கு எடுப்பதைக் கருத்தில் கொள்ளுங்கள்.

இந்த GPU-வை வாடகைக்கு எடுக்கும்போது எந்த மென்பொருள் சூழல்கள் கிடைக்கும்?

உங்கள் நிகழ்வுக்கு முழு SSH அணுகல் கிடைக்கும், மேலும் PyTorch/CUDA, vLLM, Ollama மற்றும் ComfyUI உள்ளிட்ட தயார் நிலை டெம்ப்ளேட்களைத் தொடங்கலாம். இந்த அட்டை கம்ப்யூட் திறன் 7.5-உடன் இணக்கமான CUDA பணிச்சுமைகளை ஆதரிக்கிறது.

RTX 2080 Ti, புதிய அல்லது பெரிய GPU-களுடன் ஒப்பிடும்போது எப்படி இருக்கிறது?

11 GB VRAM மற்றும் சுமார் 14.6 TFLOPS ஒற்றை-துல்லிய கணினித் திறனுடன் கூடிய Turing தலைமுறை நுகர்வோர் அட்டை என்ற வகையில், இது நுழைவு நிலை நுகர்வோர் GPU-களை விட அதிக நினைவகத்தை வழங்குகிறது. எனினும், புதிய தலைமுறை பணிநிலைய அல்லது டேட்டாசென்டர் GPU-கள், கனமான பயிற்சிப் பணிகளுக்கு அதிக VRAM மற்றும் உயர் நினைவக அலைவரிசையை வழங்குகின்றன.

ONIE இல் RTX 2080 Ti நிகழ்வுகளுக்கான கட்டணம் எவ்வாறு செயல்படுகிறது?

ONIE இல் உள்ள நிகழ்வுகள் மணி நேர அடிப்படையிலான கட்டணத்தைப் பயன்படுத்துகின்றன; எனவே உங்கள் GPU சர்வர் இயங்கும் நேரத்திற்கு மட்டுமே பணம் செலுத்துவீர்கள்.

RTX 2080 Ti-ஐ மணி நேர அடிப்படையில் வாடகைக்கு எடுங்கள்

கணக்கை உருவாக்கவும், கட்டமைப்பைத் தேர்ந்தெடுத்து SSH மூலம் இணைக்கவும். GPU-வை நீக்கும்போது கட்டணம் நிறுத்தப்படும்.

RTX 2080 Ti-ஐ வாடகைக்கு எடுக்கவும்

அனைத்து GPU-க்களும் →