Thuê GPU NVIDIA L40S theo giờ
NVIDIA L40S là GPU trung tâm dữ liệu kiến trúc Ada Lovelace hiện có sẵn để thuê trên đám mây tại ONIE. Card cung cấp 45 GB VRAM, hiệu năng tính toán độ chính xác đơn khoảng 73.3 TFLOPS và băng thông bộ nhớ khoảng 626 GB/s trong mức công suất 350 W. Hỗ trợ năng lực tính toán CUDA 8.9, máy chủ này đáp ứng tốt các tác vụ huấn luyện AI, suy luận (inference) và đồ họa chuyên sâu với hình thức thanh toán theo giờ.
Thông số
VRAM mỗi GPU
Kiến trúc
Compute capability
Hiệu năng FP32
Băng thông bộ nhớ
Giới hạn công suất
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Đang tải giá hiện hành…
L40S phù hợp với việc gì
Suy luận mô hình ngôn ngữ lớn (LLM)
Triển khai các mô hình ngôn ngữ đã lượng tử hóa hoặc độ chính xác đầy đủ bằng các mẫu có sẵn như vLLM và Ollama trong dung lượng bộ nhớ 45 GB.
Quy trình tạo ảnh AI
Chạy các pipeline khuếch tán phức tạp và tạo ảnh hàng loạt trong ComfyUI nhờ sức mạnh của kiến trúc Ada Lovelace.
Fine-tuning học sâu (Deep Learning)
Fine-tune mạng nơ-ron và các bộ điều hợp LoRA trong môi trường PyTorch/CUDA với sức mạnh tính toán khoảng 73.3 TFLOPS.
Đồ họa và kết xuất trung tâm dữ liệu
Thực thi các tác vụ kết xuất không giao diện (headless rendering) và mô phỏng tận dụng lợi thế từ GPU trung tâm dữ liệu có băng thông bộ nhớ khoảng 626 GB/s.
Có đúng GPU bạn cần?
Hãy chọn L40S khi khối lượng công việc của bạn đòi hỏi 45 GB VRAM cùng độ ổn định chuẩn trung tâm dữ liệu, vượt qua giới hạn của các dòng card phổ thông. Nếu mô hình của bạn cần ít bộ nhớ hơn, một GPU máy trạm hoặc GPU phổ thông nhỏ hơn sẽ tiết kiệm chi phí hơn; ngược lại, các mô hình nền tảng khổng lồ chưa lượng tử hóa sẽ cần đến GPU trung tâm dữ liệu có bộ nhớ lớn hơn.
So sánh với GPU tương đương
Câu hỏi thường gặp
NVIDIA L40S có phù hợp để suy luận (inference) và fine-tuning LLM không?
Có, với 45 GB VRAM và năng lực tính toán CUDA 8.9, L40S rất phù hợp để vận hành các mô hình ngôn ngữ vừa đến lớn cũng như chạy fine-tuning tối ưu tham số. Bạn có thể khởi chạy máy chủ với các mẫu vLLM, Ollama hoặc PyTorch/CUDA được cấu hình sẵn.
L40S so với các GPU phổ thông hoặc các GPU trung tâm dữ liệu lớn hơn thì như thế nào?
L40S cung cấp nhiều VRAM hơn các dòng card Ada Lovelace phổ thông tiêu chuẩn, giúp lưu trữ trọng số của các mô hình lớn hơn mà không cần chuyển tải (offload) sang bộ nhớ hệ thống. Tuy nhiên, card có băng thông bộ nhớ thấp hơn so với các GPU trung tâm dữ liệu thuần tính toán dung lượng cao — vốn được ưu tiên hơn cho các tác vụ huấn luyện quy mô lớn phụ thuộc nhiều vào băng thông bộ nhớ.
Làm thế nào để kết nối và cấu hình máy chủ L40S trên ONIE?
Bạn có toàn quyền truy cập SSH vào môi trường ngay khi máy chủ khởi động xong. Bạn cũng có thể chọn các mẫu dựng sẵn bao gồm PyTorch/CUDA, ComfyUI, vLLM và Ollama để bắt đầu làm việc ngay lập tức.
Cách tính phí cho L40S hoạt động như thế nào?
ONIE áp dụng hình thức tính phí theo giờ cho tất cả các gói thuê L40S. Bạn chỉ phải trả tiền cho khoảng thời gian máy chủ của mình được cấp phát.
Thuê L40S theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.
Thuê L40S