Sewa GPU NVIDIA Q RTX 4000 mengikut jam
Q RTX 4000 ialah GPU stesen kerja berasaskan Turing yang boleh disewa di ONIE untuk beban kerja AI dan grafik peringkat permulaan. Ia menyediakan VRAM 8 GB, kira-kira 7.7 TFLOPS pengkomputeran single-precision, dan lebar jalur memori kira-kira 353 GB/s dalam profil kuasa 125 W. Menyokong compute capability CUDA 7.5, instans ini boleh dilancarkan dengan templat sedia untuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan Q RTX 4000
Prototaip dan Nyahpepijat Kod
Uji dan sahkan saluran PyTorch/CUDA pada GPU stesen kerja 8 GB sebelum meningkat ke perkakasan yang lebih besar.
Inferens Model Ringkas
Jalankan model bahasa kecil melalui Ollama atau vLLM yang muat dengan selesa dalam VRAM 8 GB.
Penjanaan Imej Asas
Laksanakan aliran kerja penjanaan imej standard dalam ComfyUI yang tidak melebihi had memori 8 GB.
Grafik dan Pemaparan Stesen Kerja
Gunakan seni bina Turing dan lebar jalur memori kira-kira 353 GB/s untuk tugasan pemaparan dan visualisasi jauh.
Adakah ini GPU yang sesuai untuk anda?
Pilih Q RTX 4000 untuk inferens ringan, pemaparan dan pembangunan kod yang muat dalam VRAM 8 GB dan compute capability 7.5. Pilih GPU yang lebih besar dengan memori lebih banyak dan seni bina yang lebih baharu untuk latihan model berat atau inferens berskala besar, atau pilih GPU yang lebih kecil untuk paparan asas atau tugasan pengkomputeran minimum.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah Q RTX 4000 sesuai untuk inferens dan penalaan halus LLM?
Dengan VRAM 8 GB dan prestasi single-precision kira-kira 7.7 TFLOPS, ia sesuai untuk inferens dengan model padat menggunakan Ollama atau vLLM. Untuk model yang lebih besar atau beban kerja penalaan halus penuh, anda perlu memilih GPU dengan VRAM yang lebih besar dan lebar jalur memori melebihi kira-kira 353 GB/s.
Bolehkah saya gunakan GPU ini untuk ComfyUI dan penjanaan imej?
Ya, ONIE menawarkan templat ComfyUI sedia yang berjalan pada GPU stesen kerja Turing ini. Ia mengendalikan aliran penjanaan standard yang muat dalam memori 8 GB, namun aliran yang lebih besar memerlukan GPU dengan peruntukan memori yang lebih besar.
Bagaimana saya menyambung ke instans dan apakah perisian yang dipasang terlebih dahulu?
Anda boleh menyambung terus ke instans yang sedang berjalan melalui akses SSH. ONIE menyediakan templat pra-konfigurasi termasuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI supaya anda boleh mula bekerja serta-merta.
Bagaimanakah bil untuk Q RTX 4000 di ONIE?
Instans dibilkan secara setiap jam selagi GPU stesen kerja anda aktif. Ini membolehkan anda menjalankan sesi pembangunan atau pemaparan dan menamatkan instans apabila selesai.
Sewa Q RTX 4000 mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa Q RTX 4000