GPU Cloud · NVIDIA · Ampere

ជួល GPU NVIDIA RTX 3080 តាមម៉ោង

NVIDIA RTX 3080 គឺជា GPU សម្រាប់អ្នកប្រើប្រាស់ទូទៅ ដែលមានស្ថាបត្យកម្ម Ampere និង VRAM 10 GB។ វាផ្តល់ការគណនា floating-point ស្តង់ដារប្រហែល 29.5 TFLOPS និងកម្រិតបញ្ជូនទិន្នន័យអង្គចងចាំប្រហែល 656 GB/s។ នៅលើ ONIE អ្នកអាចដាក់ដំណើរការ GPU នេះជាមួយការគិតថ្លៃតាមម៉ោង ការចូលប្រើ SSH និងគំរូដែលបានរៀបចំរួច។

លក្ខណៈបច្ចេកទេស

VRAM ក្នុងមួយ GPU

10 GB

ស្ថាបត្យកម្ម

NVIDIA Ampere

សមត្ថភាពគណនា

8.6

ការគណនា FP32

≈ 29.5 TFLOPS

ល្បឿនផ្ទេរទិន្នន័យអង្គចងចាំ

≈ 656 GB/s

ដែនកំណត់ថាមពល

380 W

តម្លៃទាំងនេះត្រូវបានរាយការណ៍ដោយអ្នកផ្តល់ហេដ្ឋារចនាសម្ព័ន្ធសម្រាប់ម៉ាស៊ីនដែលបានចុះបញ្ជីនាពេលបច្ចុប្បន្ន ដូច្នេះប្រសិទ្ធភាពជាក់ស្តែងអាចខុសគ្នាតាមម៉ាស៊ីននីមួយៗ។

ការកំណត់រចនាសម្ព័ន្ធដែលមាន

ស្តុក និងតម្លៃផ្ទាល់ ដែលត្រូវបានធ្វើបច្ចុប្បន្នភាពជាបន្ត។ តម្លៃចុងក្រោយនឹងត្រូវបានបញ្ជាក់មុនពេលអ្នកបញ្ជាទិញ។

កំពុងផ្ទុកតម្លៃផ្ទាល់…

RTX 3080 សមស្របសម្រាប់អ្វី

ការអនុមាន LLM ខ្នាតតូច

ដំណើរការម៉ូដែលភាសាដែលបានធ្វើ quantized ដែលគ្រប់គ្រាន់ក្នុង VRAM 10 GB ដោយប្រើគំរូ Ollama ឬ vLLM ដែលបានកំណត់រចនាសម្ព័ន្ធជាមុន។

ដំណើរការបង្កើតរូបភាព

ដំណើរការ diffusion pipelines នៅក្នុង ComfyUI ដោយប្រើកម្រិតបញ្ជូនទិន្នន័យអង្គចងចាំប្រហែល 656 GB/s ដើម្បីផលិតរូបភាពឱ្យបានស្ថិតស្ថេរ។

ការបង្កើតគំរូដំបូងជាមួយ PyTorch

អភិវឌ្ឍ និងសាកល្បងកូដ deep learning លើកាត Ampere ដែលមាន compute capability 8.6 មុនពេលពង្រីកខ្នាត។

ការងារគណនា CUDA

បង្កើនល្បឿនការងារផ្ទាល់ខ្លួនដែលប្រើប្រាស់សមត្ថភាព floating-point ស្តង់ដារប្រហែល 29.5 TFLOPS។

តើនេះជា GPU ដែលសមសម្រាប់អ្នកឬទេ?

ជ្រើសរើស RTX 3080 សម្រាប់ការសាកល្បងគំរូដំបូង ការបង្កើតរូបភាព និងការអនុមានខ្នាតតូច នៅពេលដែល VRAM 10 GB និងការគណនា Ampere ដ៏មានប្រសិទ្ធភាពគ្រប់គ្រាន់។ ជ្រើសរើស GPU ដែលមានអង្គចងចាំច្រើនជាងនេះ ប្រសិនបើម៉ូដែល ឬទំហំ batch របស់អ្នកលើសពី 10 GB ឬជ្រើសរើសកាតសម្រាប់អ្នកប្រើប្រាស់ទូទៅដែលមានប្រសិទ្ធភាពទាបជាងសម្រាប់ស្គ្រីបទំហំតូច ដែលមិនត្រូវការប្រហែល 29.5 TFLOPS។

ប្រៀបធៀបជាមួយ GPU ស្រដៀងគ្នា

GPUVRAM ក្នុងមួយ GPUស្ថាបត្យកម្មការគណនា FP32ចាប់ពី / ម៉ោងព័ត៌មានលម្អិត
RTX 308010 GBAmpere≈ 29.5 TFLOPS—
RTX 407012 GBAda Lovelace≈ 29.3 TFLOPS—ព័ត៌មានលម្អិត
RTX 3080 Ti12 GBAmpere≈ 35.1 TFLOPS—ព័ត៌មានលម្អិត
RTX 4070S12 GBAda Lovelace≈ 35.8 TFLOPS—ព័ត៌មានលម្អិត

សំណួរដែលសួរញឹកញាប់

តើ RTX 3080 សមស្របនឹងការអនុមាន LLM និងការបង្កើតរូបភាពដែរឬទេ?

បាទ/ចាស VRAM 10 GB និងកម្រិតបញ្ជូនទិន្នន័យអង្គចងចាំប្រហែល 656 GB/s របស់វា អាចគ្រប់គ្រងការបង្កើតរូបភាពស្តង់ដារក្នុង ComfyUI និងម៉ូដែលភាសាដែលបានធ្វើ quantized តាមរយៈ Ollama ឬ vLLM បាន។ ម៉ូដែលធំៗដែលមិនបាន quantized នឹងត្រូវការ GPU ដែលមានសមត្ថភាពអង្គចងចាំខ្ពស់ជាង។

តើមានគំរូសូហ្វវែរអ្វីខ្លះសម្រាប់ RTX 3080 នៅលើ ONIE?

អ្នកអាចចាប់ផ្តើម instance ជាមួយគំរូដែលបានរៀបចំរួចសម្រាប់ PyTorch/CUDA, vLLM, Ollama និង ComfyUI។ កាតនេះគាំទ្រ compute capability 8.6 ដើម្បីឱ្យឆបគ្នាយ៉ាងទូលំទូលាយជាមួយក្របខណ្ឌ machine learning ទំនើប។

តើពេលណាគួរតែផ្លាស់ប្តូរពី RTX 3080 ទៅ GPU ធំជាង?

RTX 3080 ផ្តល់ការគណនាកម្រិតអ្នកប្រើប្រាស់ដ៏ខ្លាំងប្រហែល 29.5 TFLOPS ក្នុងដែនថាមពល 380 W ប៉ុន្តែត្រូវបានកំណត់ត្រឹម VRAM 10 GB។ ប្រសិនបើ training batches ឬទម្ងន់ម៉ូដែលរបស់អ្នកបង្កឱ្យមានកំហុស out-of-memory ការជ្រើសរើស GPU workstation ឬ datacenter ដែលមាន buffer អង្គចងចាំធំជាងគឺសមស្រប។

តើការចេញវិក្កយបត្រ និងការចូលប្រើប្រាស់ដំណើរការយ៉ាងដូចម្តេចនៅលើ ONIE?

Instance ត្រូវបានគិតថ្លៃតាមម៉ោង ខណៈពេលដែលកំពុងដំណើរការ។ អ្នកទទួលបានការចូលប្រើ SSH ពេញលេញ ដើម្បីគ្រប់គ្រងបរិស្ថានរបស់អ្នក រួមជាមួយចំណុចប្រទាក់ web ណាមួយដែលគំរូដែលអ្នកបានជ្រើសរើសផ្តល់ជូន។

ជួល RTX 3080 តាមម៉ោង

បង្កើតគណនី ជ្រើសរើសការកំណត់រចនាសម្ព័ន្ធ និងភ្ជាប់តាម SSH។ ការគិតថ្លៃនឹងឈប់នៅពេលអ្នកលុប GPU។

ជួល RTX 3080

GPU ទាំងអស់ →