Im Rahmen der IFA 2026 in Berlin hat NVIDIA den Personal AI Router (PAIR) vorgestellt. Dabei handelt es sich um eine kostenlose Open-Source-Software, die darauf ausgelegt ist, verschiedene Rechenressourcen innerhalb eines lokalen Netzwerks zu einem KI-Cluster zu vernetzen.
Die Lösung ermöglicht es, die Rechenleistung von PCs mit Grafikkarten der RTX 20-Serie oder neuer, RTX Pro GPUs sowie Systemen mit Apple M4-Chips oder aktueller gemeinsam zu nutzen.
Vernetzung lokaler Rechenressourcen mit PAIR
Die Software fungiert als Open-Source-Inferenz-Router, der KI-Anfragen auf die im lokalen Netzwerk verfügbaren Computer verteilt. Ziel ist es, ungenutzte Rechenzyklen für komplexe, agentische KI-Aufgaben zu mobilisieren. PAIR unterstützt dabei gängige Plattformen wie Ollama und LM Studio. Ein wesentliches technisches Merkmal ist die Verteilung der Anfragen auf verfügbare Knoten, ohne den Grafikspeicher (GPU-VRAM) der einzelnen Geräte zu poolen.
Die Einrichtung des Systems erfolgt über mDNS oder IP-Adressen. Für die Sicherheit der Verbindung setzt das Unternehmen auf einen sechsstelligen Zugangscode sowie mTLS-Verschlüsselung. Eine Beta-Version der Software ist seit dem 3. September 2026 für die Betriebssysteme Windows, Linux und macOS verfügbar.
Effizienzsteigerung durch verteilte Inferenz
NVIDIA schätzt, dass in einem durchschnittlichen Beispielhaushalt etwa 165 Teraflops an ungenutzter Rechenleistung zur Verfügung stehen könnten. Die Vorteile der Verteilung verdeutlichte das Unternehmen an einem Anwendungsszenario: Eine Aufgabe, die den Einsatz von fünf Subagenten erforderte, nahm auf einem einzelnen RTX Spark Laptop 18 Minuten in Anspruch. Durch die Vernetzung von drei Geräten konnte diese Zeit auf 8 Minuten und 48 Sekunden reduziert werden.
Wer sich mit der Vernetzung von KI-Systemen befasst, sollte auch die rechtlichen Rahmenbedingungen für die Entwicklung und Nutzung solcher Technologien kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Fachabteilung jetzt braucht. EU AI Act in 5 Schritten verstehen
Parallel zur Software-Einführung kündigte NVIDIA für Oktober die Markteinführung von RTX Spark PCs an. Zudem wurden neue KI-Modelle wie Nemotron 3.5 Lightning, GLM-5.3-Flash und Qwen3.8-Flash-Next vorgestellt.
Optimierungen in der Softwarebibliothek Llama.cpp sollen zudem erhebliche Leistungssteigerungen ermöglichen. So wurde ein um bis zu 50 Prozent höherer Token-Durchsatz bei Qwen3.6-27B und eine Steigerung um 90 Prozent bei Qwen3.6-35B auf einer RTX 5090 gemeldet.
Markttrend zur dezentralen KI-Verarbeitung
Die Ankündigung von NVIDIA steht in einem breiteren Kontext industrieller Bestrebungen, KI-Berechnungen stärker lokal auszuführen. So hat Anker mit der Eufy MindBase einen lokalen KI-Hub für Sicherheitskameras vorgestellt, der bis zu 48 Terabyte Speicher unterstützt und ohne monatliche Gebühren betrieben wird.
Da immer mehr KI-Systeme in Unternehmen implementiert werden, rücken neue regulatorische Anforderungen in den Fokus der Verantwortlichen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
UGREEN präsentierte zudem die HomeAgent-Plattform, die auf dem NVIDIA Jetson Thor basiert. Die Preise für diese Systeme reichen von 1.799 US-Dollar für das Basismodell HA100 bis zu 19.999 US-Dollar für den MasterAgent, der Modelle mit bis zu 122 Milliarden Parametern verarbeiten kann.
Auch im Softwarebereich zeigt sich dieser Trend: Perplexity führte am 1. September 2026 eine Hybrid-Compute-Funktion für Mac-Nutzer ein, die Aufgaben zwischen der Cloud und lokalen Modellen aufteilt. Voraussetzung hierfür ist Hardware mit Apple Silicon und mindestens 24 Gigabyte Arbeitsspeicher.
Ergänzend dazu veröffentlichte Lemonade am 2. September 2026 die Version 11.9 seiner Software, die erstmals experimentelle Unterstützung für das ROCm-HRX-Backend von AMD bietet, um die Leistung auf Radeon-Grafikkarten und Strix-Halo-Prozessoren zu optimieren.
Weitere Hardware-Ankündigungen flankieren diese Entwicklung. Advantech stellte mit dem AIR-411 ein kompaktes Edge-AI-System vor, während MINISFORUM auf der IFA die AI Mini Workstation MS-S1 mit AMD Ryzen AI MAX+ PRO Prozessoren präsentierte, die eine KI-Leistung von bis zu 131 TOPS erreichen soll.
