Nvidia PAIR: Kostenlos-Tool verteilt KI-Last über lokale Netzwerke

Nvidias kostenlose PAIR-Software verteilt KI-Aufgaben im Heimnetz, unterstützt mehrere Plattformen und soll größere Sprachmodelle lokal nutzbar machen.

Im Rahmen der Technikmesse IFA 2026 hat Nvidia die Einführung von Personal AI Router (PAIR) bekannt gegeben. Das kostenlose Open-Source-Tool ist darauf ausgelegt, KI-Inferenz-Workloads über verschiedene Computer innerhalb eines lokalen Netzwerks zu verteilen. Damit reagiert das Unternehmen auf den wachsenden Bedarf an lokaler Rechenkapazität für komplexe Sprachmodelle und KI-Anwendungen im privaten und professionellen Bereich.

Bereits am 3. September 2026 wurde PAIR als öffentliche Beta in der Version 0.1.1 veröffentlicht. Die Software steht für die Betriebssysteme Windows, macOS und Linux zur Verfügung und wird unter der Apache-2.0-Lizenz bereitgestellt.

Das Ziel der Anwendung ist es, im Leerlauf befindliche Grafikprozessoren (GPUs) zu einem privaten KI-Cluster zusammenzufassen, um die Ausführung von Modellen zu beschleunigen oder größere Modelle auf vorhandener Hardware zu ermöglichen.

Technische Steuerung und Sicherheitsmerkmale

Die Funktionsweise von PAIR basiert auf einem intelligenten Scheduler, der die Lastverteilung innerhalb des Netzwerks steuert. Dieser bewertet laut Unternehmensangaben kontinuierlich fünf zentrale Signale: den Online-Status der beteiligten Geräte, die Verfügbarkeit der KI-Engine, die Präsenz des benötigten Modells auf dem jeweiligen Knoten sowie die aktuelle Job-Last und die spezifische GPU-Auslastung.

Anzeige

Wer sich mit dem Aufbau lokaler KI-Infrastrukturen befasst, muss auch die neuen rechtlichen und sicherheitstechnischen Rahmenbedingungen im Blick behalten. Dieser kostenlose Report klärt auf, welche Pflichten und Bedrohungen Unternehmer beim Einsatz neuer Technologien jetzt kennen müssen. KI-Gesetze und Cyberrisiken: Kostenlosen Report anfordern

Durch diese Analyse ist das System in der Lage, beschäftigte Geräte zu identifizieren und anstehende Aufgaben automatisiert auf freie Ressourcen im Netzwerk zu verlagern.

Technisch gesehen bündelt PAIR dabei nicht den physischen GPU-Speicher oder die Rechenleistung zu einem einzigen virtuellen Prozessor. Stattdessen wird jede einzelne Anfrage vollständig auf einem einzelnen Knoten innerhalb des Clusters verarbeitet.

Die Software fungiert als Router, der die Anfragen optimal verteilt. Für die Integration in bestehende Arbeitsabläufe unterstützt PAIR gängige Plattformen wie Ollama und LM Studio sowie OpenAI-kompatible Endpunkte, wobei für die Nutzung keine Änderungen am bestehenden Programmcode erforderlich sein sollen.

Um die Sicherheit innerhalb des lokalen Netzwerks zu gewährleisten, nutzt das Tool die mDNS-Erkennung zur Identifizierung von Geräten. Die Kopplung neuer Systeme erfolgt über eine sechsstellige PIN, während die Kommunikation zwischen den Knoten mittels mTLS-Verschlüsselung abgesichert wird.

Leistungswerte und Hardware-Anforderungen

Nvidia schätzt, dass ein typischer Haushalt über einen kombinierten, oft ungenutzten Durchsatz von etwa 165 Teraflops verfügt. Durch die Vernetzung von vier bis fünf Consumer-Systemen soll es möglich sein, Sprachmodelle mit bis zu 405 Milliarden Parametern lokal zu betreiben.

Interne Benchmarks verdeutlichen den Zeitgewinn: Eine Aufgabe mit fünf Subagenten, die auf einem einzelnen RTX-Spark-Laptop rund 18 Minuten in Anspruch nahm, konnte in einem Cluster aus drei Knoten (bestehend aus einem RTX Spark, einem DGX Spark und einer RTX 5090) in 8 Minuten und 48 Sekunden abgeschlossen werden. Das Hinzufügen einer zweiten GPU könne den Durchsatz bei der Batch-Verarbeitung laut Nvidia annähernd verdoppeln.

Anzeige

Die zunehmende Vernetzung von Systemen zur Steigerung der Rechenleistung erfordert proaktive Schutzmaßnahmen vor unbefugten Zugriffen. Erfahren Sie in diesem kostenlosen E-Book, wie Sie Sicherheitslücken schließen und Ihre IT-Infrastruktur ohne hohe Investitionen langfristig absichern. Gratis-E-Book: IT-Sicherheit im Unternehmen stärken

Die Systemanforderungen für PAIR variieren je nach Plattform. Unterstützt werden Windows- und Linux-Systeme mit Grafikprozessoren der GeForce-RTX-20-Serie oder neuer sowie RTX-Pro-Modelle und DGX-Spark-Systeme.

Auf der Apple-Plattform setzt die Software mindestens macOS Tahoe und einen M4-Chip oder neuer voraus, wobei die Rechenleistung über Metal Performance Shaders angesprochen wird. Ältere Modelle oder der M3-Ultra-Chip werden nach aktuellem Stand nicht unterstützt.

Marktverfügbarkeit optimierter Hardware

Passend zur Einführung der neuen Software-Infrastruktur bereiten führende Hardware-Hersteller die Markteinführung spezialisierter Endgeräte vor. Ab Oktober 2026 werden neue RTX-Spark-PCs von Partnern wie ASUS, Dell, HP, Lenovo, Microsoft Surface und MSI erwartet.

Diese Geräte sind speziell für die Nutzung lokaler KI-Workloads und die Einbindung in Cluster-Strukturen über Tools wie PAIR optimiert. Das Angebot richtet sich insbesondere an Nutzer von KI-Agenten, Chatbots und LLM-Anwendungen, die Wert auf lokale Datenverarbeitung und hohe Rechengeschwindigkeit legen.