Das KI-Unternehmen Perplexity hat Anfang September eine neue Architektur namens Hybrid Compute vorgestellt, die Berechnungen zwischen Cloud-Infrastrukturen und lokaler Hardware aufteilt.
Ein wesentlicher technologischer Fortschritt liegt dabei in der Veröffentlichung des sogenannten PII-Tracers. Dieses spezialisierte Modell mit 0,6 Milliarden Parametern wurde entwickelt, um personenbezogene Daten in langen Kontexten präziser zu identifizieren. Laut Unternehmensangaben verbessert der PII-Tracer die Trefferquote (Recall) in umfangreichen Datensätzen von zuvor 0,687 auf nun 0,965.
Hybrid-Architektur für lokale Datenverarbeitung
Die neue Hybrid-Compute-Funktion ermöglicht es, Aufgaben zwischen leistungsstarken Cloud-Modellen wie Opus 5 oder GPT-5.6 Sol und lokalen Sprachmodellen auf Apple-Silicon-Macs zu verteilen. Das System nutzt ein sogenanntes Privacy Gate, um sensible Informationen zu schützen. Während komplexe Logik-Aufgaben und Websuchen weiterhin in der Cloud verarbeitet werden, verbleiben sensible Daten für die lokale Verarbeitung auf dem Gerät des Nutzers.
Hierbei kommen verschiedene lokale Modelle zum Einsatz, darunter Gemma 4 E4B sowie Qwen 3.6 35B-A3B. Zusätzlich setzt Perplexity eine eigene, nachträglich trainierte Version dieser Modelle ein.
Ein ökonomischer Vorteil der lokalen Verarbeitung besteht darin, dass für diese Rechenschritte keine Token-Kosten anfallen und keine Cloud-Credits verbraucht werden. Nutzer können Aufgaben zudem auf einem iPhone initiieren, während die eigentliche Ausführung auf einem gekoppelten Mac erfolgt.
Automatisierte Erkennung sensibler Informationen
Wer sich mit dem Schutz sensibler Informationen befasst, muss heute auch die neuen rechtlichen Rahmenbedingungen der EU kennen. Dieser kostenlose Download verschafft Ihnen den Überblick zu Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Zentrales Element der Sicherheitsstrategie ist die automatische Erkennung privater Dateien und personenbezogener Daten wie Namen, Adressen oder Kontonummern. Das System kann diese Informationen blockieren, maskieren oder die Zustimmung des Nutzers einholen, bevor eine Übertragung stattfindet.
Um die Zuverlässigkeit dieser Prozesse zu belegen und die Forschung in diesem Bereich zu fördern, hat Perplexity den PII-TRACE-Benchmark veröffentlicht. Dieser umfasst 13.000 synthetische Gespräche mit insgesamt 37.000 Referenzen zur Identifizierung privater Informationen.
Der als Open Source zur Verfügung gestellte PII-Tracer soll sicherstellen, dass auch bei komplexen Anfragen mit hohem Datenvolumen keine sensiblen Details unbeabsichtigt in die Cloud gelangen. Trotz der Sicherheitsvorteile weist das Unternehmen darauf hin, dass die rein lokale Verarbeitung im Vergleich zu Cloud-basierten Hochleistungsmodellen mit gewissen Einbußen bei der Antwortqualität verbunden sein kann.
Systemvoraussetzungen und Verfügbarkeit
Die technologische Entwicklung bringt nicht nur neue Chancen, sondern auch neue regulatorische Anforderungen für Unternehmen mit sich. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme künftig als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Wie CEO Aravind Srinivas Anfang September bestätigte, wird Hybrid Compute schrittweise für die Mac-Applikation ausgerollt. Die Funktion richtet sich an Abonnenten der Tarife Pro, Max sowie an Enterprise-Kunden. Voraussetzung für den Betrieb ist ein Mac mit Apple-Silicon-Prozessor und dem Betriebssystem macOS 15.
Hinsichtlich der Hardware-Ausstattung nennt das Unternehmen ein Minimum von 24 GB Arbeitsspeicher, wobei für eine optimale Performance 32 GB RAM empfohlen werden.
Durch die lokale Integration soll professionellen Anwendern ein Werkzeug an die Hand gegeben werden, das die Effizienz moderner KI-Modelle mit den strengen Anforderungen an den Datenschutz im Unternehmensumfeld verbindet. Das System erlaubt es den Nutzern zudem, die Verteilung ihrer Dateien vor der endgültigen Bearbeitung manuell zu prüfen.
