gpu-unlock: RTX 3090 Ti erreicht bis zu 80 Prozent mehr BF16-Leistung

Die Linux-Modifikation beschleunigt ausgewählte KI-Berechnungen auf RTX-Karten, bringt beim Gaming jedoch keinen Leistungsgewinn.

•

Der Entwickler Zagitta und unabhängige Forscher haben auf der Plattform GitHub eine Modifikation veröffentlicht, die herstellerseitige Firmware-Sperren auf Grafikkarten der Architekturen Turing, Ampere und Ada Lovelace entfernt.

Wie aus Berichten hervorgeht, lässt sich damit die Rechenleistung ausgewählter Modelle der Reihen GeForce RTX 20, RTX 30 und RTX 40 in bestimmten KI-Szenarien verdoppeln. Die Umsetzung erfolgt wahlweise als Linux-Kernelmodul oder als UEFI-Modifikation. Ein riskanter Eingriff über ein VBIOS-Flashing oder modifizierte Treiber ist nicht erforderlich.

Signifikanter Zuwachs bei KI-Berechnungen

Das als „gpu-unlock“ bereitgestellte Werkzeug ist eine kostenlose Open-Source-Software für Linux. Das Programm hebt die künstliche Drosselung der Tensor-Kerne bei jedem Systemstart auf, noch bevor die Bindung an den regulären Grafiktreiber erfolgt. Dabei umgeht das Tool den sogenannten PCIe Function Level Reset und arbeitet mit den offiziellen Treibern des Herstellers zusammen.

Die Auswirkungen auf mathematische Berechnungen sind beträchtlich. Laut Medienberichten steigt die BF16-Rechenleistung einer GeForce RTX 3090 Ti durch den Eingriff von 87,5 auf 157 TFLOPS, was bei der BF16-Matrixmultiplikation einem Zuwachs von bis zu 80 % entspricht.

Anzeige

Da innovative Tools zur Leistungssteigerung oft zuerst für Open-Source-Systeme erscheinen, bietet dieser kostenlose Ratgeber den idealen Einstieg in die Welt von Ubuntu. Entdecken Sie im kostenlosen Startpaket, wie Sie die Vorteile von Linux sofort testen. Ubuntu Kompakt-Guide kostenlos sichern

Für die GeForce RTX 4090 klettert der Durchsatz bei FP16- und BF16-Berechnungen mit FP32-Akkumulation von 165,6 auf 331,6 TFLOPS. Damit erreicht die Endanwender-Karte rechnerisch das Niveau einer professionellen RTX 6000 Ada.

Der Forscher KohakuBlueleaf meldete zudem für die ältere GeForce RTX 2080 Ti einen Wert von 111 TFLOPS, während die AI-Tensor-Rechenleistung einer RTX 3090 von 75 auf 125 TFLOPS anwächst.

Vorteile für Workloads abseits von Gaming

In der praktischen Anwendung profitieren vor allem generative Bildmodelle und lokale Sprachmodelle. Bei der Bildgenerierung mit ComfyUI (SDXL, SD 1.5, DiT) werden Beschleunigungen von 30 bis 55 % verzeichnet; bei der RTX 3090 Ti liegt das Plus bei 58 %.

Für das LoRA- und Full-Fine-Tuning unter BF16 sowie für das Prefill langer Prompts werden Zuwächse zwischen 25 und 55 % genannt. Bei vLLM verkürzt sich die Latenz bis zum ersten Token um 25 %, während der Prefill-Schritt um 36 % schneller abläuft. Die Videogenerierung mit Wan 2.2 legt um 15 bis 20 % zu.

Keine Leistungssteigerungen bringt die Modifikation hingegen in Computerspielen, bei der reinen Textgenerierung oder beim Einsatz von INT8-, FP8- und INT4-Modellen.

Anzeige

Wer die volle Kontrolle über seine Hardware behalten und auf leistungsstarke Open-Source-Lösungen setzen möchte, findet in diesem Startpaket eine schrittweise Anleitung für den risikofreien Parallel-Umstieg. Das kostenlose Linux-Startpaket zeigt Ihnen, wie Sie Ubuntu neben Windows installieren – ohne Risiko und ohne Datenverlust. Kostenloses Linux-Startpaket jetzt herunterladen

Quantisierte Workloads über Ollama oder llama.cpp zeigen lediglich marginale Effekte zwischen 0 und 15 %. An der Leistungsaufnahme ändert sich ebenfalls nichts: Der Verbrauch verharrt bei Karten auf Basis der Chips GA102 und AD102 unverändert bei einer TGP von 450 W.

Kompatibilität und rechtliche Risiken

Der Support-Status variiert je nach Generation. Als stabil gilt der Einsatz auf der RTX-30-Serie (Chips GA102, GA103, GA104 und GA106 von der RTX 3050 bis zur RTX 3090 Ti, inklusive der mobilen Varianten 3070 und 3080 Laptop), wozu bereits mehr als 100 Nutzerberichte vorliegen.

Für die RTX-40-Reihe (AD102, AD103, AD106 von der 4060 bis zur 4090) sowie für RTX-20-Karten und die Titan RTX gilt der Status als experimentell. Das Tool funktioniert grundsätzlich auch auf älteren GTX-900- und GTX-1000-Karten. Die kommende RTX-50-Generation mit Blackwell-Architektur sowie das Betriebssystem Windows werden nicht unterstützt.

Bei Laptops greift die Modifikation nur bei aktivierter dedizierter GPU. Da die Freischaltung lediglich im flüchtigen Speicher liegt, bleibt sie nur bis zum Ausschalten des Systems aktiv. Dennoch erlischt nach Berichten durch den Eingriff die Herstellergarantie, während die konkreten Garantieauswirkungen bei Notebooks noch als ungeklärt gelten.