NVIDIA L40S GPU stundenweise mieten
Die NVIDIA L40S ist eine Rechenzentrums-GPU mit Ada Lovelace-Architektur, die Sie auf ONIE in der Cloud mieten können. Sie bietet 45 GB VRAM, rund 73.3 TFLOPS Rechenleistung bei einfacher Genauigkeit sowie eine Speicherbandbreite von etwa 626 GB/s bei einer Leistungsaufnahme von 350 W. Mit Unterstützung für CUDA Compute Capability 8.9 bewältigt diese Instanz anspruchsvolle AI-Trainings-, Inferenz- und Grafik-Workloads bei stundengenauer Abrechnung.
Spezifikationen
VRAM pro GPU
Architektur
Compute-Capability
FP32-Rechenleistung
Speicherbandbreite
Leistungslimit
Vom Infrastrukturanbieter gemeldete Werte für aktuell gelistete Systeme; die tatsächliche Leistung variiert je nach System.
Verfügbare Konfigurationen
Aktueller Bestand und Preise, laufend aktualisiert. Der Endpreis wird vor der Bestellung bestätigt.
Aktuelle Preise werden geladen…
Wofür sich die L40S eignet
Inferenz für große Sprachmodelle
Stellen Sie quantisierte oder vollaufgelöste Sprachmodelle innerhalb der 45 GB Speicherkapazität über fertige Vorlagen wie vLLM und Ollama bereit.
Generative Bild-Workflows
Führen Sie komplexe Diffusions-Pipelines und Stapelgenerierungen in ComfyUI mithilfe der Ada Lovelace-Architektur aus.
Deep-Learning-Feinabstimmung
Passen Sie neuronale Netze und LoRA-Adapter in PyTorch/CUDA-Umgebungen mit rund 73.3 TFLOPS Rechenleistung präzise an.
Rechenzentrums-Grafik und Rendering
Führen Sie Headless-Rendering- und Simulationsaufgaben aus, die von einer Rechenzentrums-GPU mit rund 626 GB/s Speicherbandbreite profitieren.
Ist es die richtige GPU für Sie?
Wählen Sie die L40S, wenn Ihr Workload 45 GB VRAM und die Zuverlässigkeit einer Rechenzentrums-GPU erfordert und damit über herkömmliche Consumer-Karten hinausgeht. Falls Ihre Modelle mit weniger Speicher auskommen, ist eine kleinere Workstation- oder Consumer-GPU wirtschaftlicher, während für sehr große, unquantisierte Basismodelle eine Rechenzentrums-GPU mit noch mehr Speicher sinnvoll ist.
Mit ähnlichen GPUs vergleichen
Häufig gestellte Fragen
Eignet sich die NVIDIA L40S für LLM-Inferenz und Feinabstimmung?
Ja, mit 45 GB VRAM und CUDA Compute Capability 8.9 ist die L40S bestens geeignet, um mittelgroße bis große Sprachmodelle bereitzustellen und parametereffizientes Fine-Tuning durchzuführen. Sie können Instanzen direkt mit vorkonfigurierten Vorlagen für vLLM, Ollama oder PyTorch/CUDA starten.
Wie schneidet die L40S im Vergleich zu Consumer-GPUs oder größeren Rechenzentrums-GPUs ab?
Die L40S bietet mehr VRAM als reguläre Consumer-Karten der Ada Lovelace-Generation, sodass sie größere Modellgewichte ohne Auslagerung im Speicher halten kann. Allerdings verfügt sie über eine geringere Speicherbandbreite als reine Compute-Rechenzentrums-GPUs mit großem Speicher, die bei sehr großen, speicherintensiven Trainingsläufen vorzuziehen sind.
Wie verbinde und konfiguriere ich meine L40S-Instanz auf ONIE?
Sobald die Instanz gestartet ist, erhalten Sie vollen SSH-Zugriff auf Ihre Umgebung. Zudem können Sie fertige Vorlagen wie PyTorch/CUDA, ComfyUI, vLLM und Ollama auswählen, um sofort mit der Arbeit zu beginnen.
Wie funktioniert die Abrechnung für die L40S?
ONIE nutzt für alle L40S-Mieten eine stundengenaue Abrechnung. Sie zahlen nur für die Zeit, in der Ihre Instanz zugewiesen ist.
Die L40S stundenweise mieten
Erstellen Sie ein Konto, wählen Sie eine Konfiguration und verbinden Sie sich per SSH. Die Abrechnung endet, sobald Sie die GPU löschen.
L40S mieten