GPU Cloud · NVIDIA · Ampere

NVIDIA RTX 3060 GPU-ын сағат бойынша жалға алыңыз

NVIDIA RTX 3060 — 12 GB VRAM және 170 W қуат шегі бар, тұтынушыларға арналған Ampere архитектурасындағы GPU. Ол шамамен 12.0 TFLOPS стандартты қалқымалы нүкте өнімділігін және шамамен 318 GB/s жад өткізу қабілетін ұсынады, CUDA есептеу мүмкіндігі 8.6 қолдайды. ONIE платформасында RTX 3060-ты сағаттық төлеммен, толық SSH қолжетімділігімен және PyTorch/CUDA, vLLM, Ollama, ComfyUI үшін дайын шаблондармен жалға алуға болады.

Сипаттамалары

Әр GPU-ның VRAM-ы

12 GB

Архитектура

NVIDIA Ampere

Есептеу мүмкіндігі

8.6

FP32 есептеу

≈ 12 TFLOPS

Жад өткізу қабілеті

≈ 318 GB/s

Қуат шегі

170 W

Қазіргі тізімдегі машиналар үшін инфрақұрылым провайдері берген мәндер; нақты өнімділік машинаға қарай өзгереді.

Қолжетімді конфигурациялар

Қоймадағы қор мен бағалар үнемі жаңартылып отырады. Соңғы баға тапсырыс берер алдында расталады.

Нақты бағалар жүктелуде…

RTX 3060 неге жарайды

Квантталған LLM инференсі

Алдын ала конфигурацияланған Ollama немесе vLLM шаблондарын пайдаланып, ықшам немесе квантталған тілдік модельдерді 12 GB VRAM шегінде іске қосыңыз.

ComfyUI арқылы кескін генерациясы

12 GB жадқа оңай сыятын стандартты диффузиялық жұмыс процестері мен кескін синтезі конвейерлерін орындаңыз.

PyTorch прототиптеу және жөндеу

Жұмыс жүктемелерін үлкенірек жабдыққа масштабтамас бұрын, есептеу мүмкіндігі 8.6 бар Ampere картасында CUDA кодын әзірлеңіз және сынаңыз.

Шағын масштабты модельді баптау

Шамамен 12.0 TFLOPS есептеу қуаты жеткілікті болатын шағын деректер жиындарында параметрлерді үнемдейтін баптауды орындаңыз.

Бұл сіз үшін дұрыс GPU ма?

RTX 3060-ты датацентр жабдығының қымбаттығынсыз 12 GB VRAM қажет ететін әзірлеу, прототиптеу және жеңіл инференс тапсырмалары үшін таңдаңыз. Модельдеріңіз 12 GB-тан асып кетсе немесе шамамен 318 GB/s-тен жоғары жад өткізу қабілеті қажет болса, үлкенірек GPU таңдаңыз. Тек минималды скрипттерді аз жад талабымен іске қоссаңыз, кішірек GPU таңдаңыз.

Ұқсас GPU-лармен салыстыру

GPUӘр GPU-ның VRAM-ыАрхитектураFP32 есептеуСағатына бастапТолығырақ
RTX 306012 GBAmpere≈ 12 TFLOPS—
Titan Xp12 GBPascal≈ 11.7 TFLOPS—Толығырақ
RTX 3060 laptop12 GBAmpere≈ 12.9 TFLOPS—Толығырақ
GTX 1080 Ti11 GBPascal≈ 11 TFLOPS—Толығырақ

Жиі қойылатын сұрақтар

RTX 3060 LLM инференсі мен кескін генерациясына жарай ма?

Иә, 12 GB VRAM Ollama және vLLM арқылы кішірек немесе квантталған тілдік модельдерді, сондай-ақ ComfyUI-дағы стандартты диффузиялық модельдерді іске қосуға жеткілікті. 12 GB-тан асатын квантталмаған үлкен модельдер үшін жоғарырақ жад сыйымдылығы бар GPU қажет болады.

Бұл тұтынушылық Ampere картасы үлкенірек GPU-лармен салыстырғанда қалай?

RTX 3060 кіріс деңгейіндегі тұтынушылық карта үшін кең 12 GB жад буферін, шамамен 12.0 TFLOPS есептеу қуатын және шамамен 318 GB/s жад өткізу қабілетін ұсынады. Жоғарырақ деңгейдегі тұтынушылық немесе жұмыс станциясы GPU-ларына көшу ауыр оқыту үшін жылдамырақ жад өткізу қабілетін және көбірек есептеу өнімділігін береді.

RTX 3060 данамына қалай қосылып, оны қалай орнатамын?

ONIE платформасындағы әрбір жалға алу команда жолын толық басқару үшін тікелей SSH қолжетімділігін қамтиды. Сондай-ақ PyTorch/CUDA, vLLM, Ollama немесе ComfyUI үшін дайын шаблондарды пайдаланып, бірден бастауға болады.

ONIE платформасында RTX 3060 үшін төлем қалай жұмыс істейді?

Жалға алу белсенді болған кезде даналар сағаттық негізде есептеледі. Бұл есептеу мүмкіндігі 8.6 бар Ampere архитектуралы картада тәжірибелер жүргізуге және аяқтағаннан кейін данасын өшіруге мүмкіндік береді.

RTX 3060 сағаттық жалға алыңыз

Аккаунт жасаңыз, конфигурацияны таңдаңыз және SSH арқылы қосылыңыз. GPU-ды жойғанда есептеу тоқтайды.

RTX 3060 жалға алу

Барлық GPU-лар →