Die neue Open-Source-Lösung „backburner“ ermöglicht es, iPhones oder iPads mit M-Chip über eine USB-C-Verbindung mit 10 Gb/s als sekundäre Grafikeinheit für Apple-Silicon-Macs einzusetzen. Das unter der MIT-Lizenz auf GitHub veröffentlichte Werkzeug nutzt einen speziellen Fork der Software llama.cpp sowie eigene Kernel, um die Rechenlast von Sprachmodellen zwischen den Geräten zu teilen.
Aktuelle Tests belegen dabei eine erhebliche Erweiterung des nutzbaren Kontextfensters und deutliche Geschwindigkeitsvorteile bei der Verarbeitung umfangreicher Datenmengen.
Massive Erweiterung des Kontextfensters durch iPhone-Anbindung
Ein zentraler Aspekt der neuen Entwicklung ist die signifikante Vergrößerung des Kontextspeichers bei lokalen Sprachmodellen. In Versuchen mit einem MacBook Pro (M4 Pro mit 24 GB Unified Memory) unter macOS 26.2 war das Kontextfenster bei einer 8-Bit-Quantisierung im Einzelbetrieb auf 64k begrenzt, wobei das System 20.480 MB Speicher beanspruchte.
Durch die Einbindung eines iPhone 17 Pro Max konnte dieser Bereich auf 196k bis 229k bei identischer 8-Bit-Präzision gesteigert werden. In praktischen Szenarien wurden erfolgreich Tests bis zu einem Umfang von 128k (8-Bit) sowie 140k (4-Bit) durchgeführt. Dabei zeigte das System eine hohe Verlässlichkeit bei der Informationswiedergabe: In einer Session mit 100.000 Tokens konnten Fakten, die an verschiedenen Stellen (bei 1.500, 40.000 und 100.000 Tokens) platziert waren, korrekt abgerufen werden.
Effizienzsteigerung durch Lastverteilung und Neural Engine
Die technische Umsetzung basiert auf einer gezielten Aufteilung der Rechenlast. Anfang Oktober durchgeführte Messungen mit dem Modell Qwen3.8-27B zeigten, dass der Mac die Layer 1 bis 40 verarbeitet, während die GPU des im iPhone verbauten A19-Pro-Chips die Layer 41 bis 64 übernimmt. Die Grafikkarte des Mobilgeräts agierte dabei laut den Messdaten des Entwicklers 2,4-mal schneller als in Konfigurationen ohne Matrix-Einheiten.
Besonders bei der sogenannten Prefill-Phase, dem Einlesen großer Dokumente, ergaben sich Leistungszuwächse. Bei einer Datei mit 2.000 Tokens stieg die Geschwindigkeit in einem 16k-Kontext von 109 auf 157 Tokens pro Sekunde (tok/s), was einer Steigerung von 44 Prozent entspricht. In größeren Kontexten von 32k und 48k lagen die Zuwächse bei rund 30 Prozent.
Wer sich mit der neuen Verknüpfung von Mac und iPhone befasst, stellt oft fest, dass die modernen Apple-Systeme weitaus mehr Möglichkeiten bieten, als im Alltag genutzt werden. Dieses kostenlose Starterpaket verrät die cleveren Tricks, mit denen Sie Ihren Apple-Computer von Tag 1 an optimal nutzen. So werden Sie in kürzester Zeit zum Mac-Profi – völlig kostenlos
Ab einer Grenze von 64k Tokens greift das System zudem auf die Neural Engine des iPhones zurück. Diese verarbeitet ältere Key-Value-Pages (KV-Pages) mit jeweils 4.096 Keys. Bei einem Kontext von 140k Tokens sank die Schreibzeit pro Token durch den Einsatz der Neural Engine von 279 ms auf 176 ms im Vergleich zur alleinigen Nutzung der iPhone-GPU.
Einschränkungen und Anforderungen der aktuellen Version
Trotz der Leistungsgewinne unterliegt das System derzeit noch funktionellen Beschränkungen. Das iPhone beschleunigt die Textgenerierung erst ab einer Lesegröße von mehr als 512 Tokens; darunter verbleibt die Aufgabe vollständig beim Mac. In einer Test-Session mit 36 Anfragen waren beispielsweise nur sieben Anfragen groß genug, um die iPhone-GPU zu aktivieren, machten jedoch 83 Prozent der insgesamt gelesenen Tokens aus.
Zudem muss die App auf dem Mobilgerät bei Kontexten über 64k im Vordergrund bleiben, da die Verarbeitung ansonsten nach 15 Sekunden unterbrochen wird. Im Falle eines Verbindungsabbruchs zum iPhone sieht das Protokoll eine 60-sekündige Abschaltung und einen erneuten Batch-Durchlauf auf dem Mac vor. Die Speicherung von Sessions inklusive der Verschlüsselungs-Keys erfordert mindestens die App-Version 0.0.4.
Um die volle Performance Ihres Apple-Rechners auch ohne komplexe Zusatzsoftware auszuschöpfen, helfen oft schon die richtigen Tastenkombinationen für den Arbeitsalltag. Ein Apple-Experte mit 20 Jahren Erfahrung hat die 19 nützlichsten Shortcuts für Sie zusammengestellt, die Ihnen das lästige Menü-Suchen ersparen. Jetzt kostenlosen PDF-Sonderreport sichern
In Entwicklerkreisen wurden die Ergebnisse bereits intensiv diskutiert. Während in Foren wie Reddit über mögliche Preissteigerungen bei iPhones durch künftiges „AI-Farming“ spekuliert wird, schlagen Fachleute alternativ die Nutzung von iPad Pros vor. Diese bieten durch M-Chips, größeren Arbeitsspeicher und Thunderbolt-4-Schnittstellen potenziell noch höhere Kapazitäten.
Der Entwickler plant bereits weitere Versuche in diese Richtung sowie Tests mit Verbünden aus mehreren Geräten. Alle bisher vorliegenden Leistungsdaten basieren auf Einzelmessungen des Autors und wurden noch nicht von unabhängiger Stelle verifiziert.