Sewa GPU NVIDIA Tesla V100 mengikut jam
Tesla V100 ialah GPU pusat data berseni bina Volta yang dilengkapi VRAM berjalur lebar tinggi 16 GB dan kuasa reka bentuk terma 300 W. Ia menyampaikan kira-kira 12.5 TFLOPS prestasi pengiraan ketepatan tunggal dan lebar jalur memori kira-kira 780 GB/s, menjadikannya pilihan yang boleh dipercayai untuk pengkomputeran saintifik intensif memori dan tugasan pembelajaran mendalam. Di ONIE, anda boleh melaksanakan Tesla V100 dengan pengebilan per jam, akses SSH penuh dan templat pra-konfigurasi.
Spesifikasi
VRAM bagi setiap GPU
Seni bina
Keupayaan pengiraan
Pengiraan FP32
Lebar jalur memori
Had kuasa
Nilai yang dilaporkan oleh pembekal infrastruktur untuk mesin yang disenaraikan pada masa ini; prestasi sebenar berbeza mengikut mesin.
Konfigurasi yang tersedia
Ketersediaan dan harga secara langsung, dikemas kini secara berterusan. Harga akhir disahkan sebelum anda membuat pesanan.
Memuatkan harga secara langsung…
Kegunaan Tesla V100
Inferens LLM Padat
Hidangkan model bahasa yang dikuantisasi atau lebih kecil menggunakan templat Ollama atau vLLM sambil memanfaatkan lebar jalur memori kira-kira 780 GB/s.
Prototaip Pembelajaran Mendalam
Latih dan sahkan seni bina rangkaian neural dalam PyTorch dengan 16 GB VRAM dan keupayaan pengiraan 7.0.
Aliran Kerja Penjanaan Imej
Jalankan saluran paip resapan dan graf penjanaan tersuai melalui templat ComfyUI yang dipasang terlebih dahulu.
Simulasi dan Pengiraan Saintifik
Laksanakan beban kerja pusat data terikat lebar jalur yang mendapat manfaat daripada seni bina Volta dan prestasi ketepatan tunggal kira-kira 12.5 TFLOPS.
Adakah ini GPU yang sesuai untuk anda?
Tesla V100 16 GB sesuai untuk penyelidik dan pembangun yang memerlukan lebar jalur memori yang tinggi untuk model kecil hingga sederhana dan beban kerja saintifik tanpa perlu membayar untuk perkakasan pusat data generasi terbaharu. Pilih GPU pengguna yang lebih kecil untuk pembangunan asas dengan keperluan memori yang lebih rendah, atau naik taraf kepada GPU generasi yang lebih baharu dengan VRAM yang lebih besar jika model anda melebihi 16 GB atau memerlukan ciri seni bina yang lebih baharu selain keupayaan pengiraan 7.0.
Bandingkan dengan GPU serupa
Soalan lazim
Adakah Tesla V100 16 GB sesuai untuk inferens dan penalaan halus LLM?
VRAM 16 GB dan lebar jalur memori kira-kira 780 GB/s menjadikan Tesla V100 sesuai untuk inferens pada model bahasa yang lebih kecil atau dikuantisasi serta penalaan halus cekap parameter. Untuk model yang lebih besar yang tidak muat dalam memori 16 GB, anda perlu memilih GPU dengan kapasiti VRAM yang lebih tinggi.
Apakah templat perisian dan kaedah sambungan yang tersedia di ONIE?
Setiap instans Tesla V100 termasuk akses SSH terus untuk konfigurasi tersuai dan aliran kerja baris arahan. Anda juga boleh melancarkan templat sedia ada termasuk PyTorch/CUDA, vLLM, Ollama dan ComfyUI untuk mula bekerja serta-merta.
Bagaimanakah seni bina Volta mempengaruhi keserasian rangka kerja?
Tesla V100 menyokong keupayaan pengiraan CUDA 7.0, yang serasi dengan rangka kerja pembelajaran mendalam standard seperti PyTorch. Walau bagaimanapun, beban kerja yang secara eksplisit memerlukan ciri yang diperkenalkan dalam keupayaan pengiraan yang lebih baharu memerlukan seni bina GPU yang lebih terkini.
Bagaimanakah pengebilan berfungsi untuk menyewa Tesla V100?
ONIE menggunakan pengebilan per jam yang mudah untuk semua sewaan Tesla V100. Anda hanya membayar untuk masa instans anda aktif, membolehkan anda menjalankan eksperimen atau tugasan kelompok dan menamatkan pelayan apabila selesai.
Sewa Tesla V100 mengikut jam
Cipta akaun, pilih konfigurasi dan sambung melalui SSH. Bil berhenti apabila anda memadam GPU.
Sewa Tesla V100