Neue Software-Optimierungen machen Apples M-Chips zu ernstzunehmenden KI-Plattformen. Entwickler berichten von bis zu 4,5-facher Leistungssteigerung.
Die Zeiten, in denen leistungsfähige KI-Modelle nur in der Cloud oder auf teuren Server-GPUs liefen, könnten bald vorbei sein. Aktuelle Benchmarks vom Juli 2026 zeigen: Apples M1-Chips und ihre Nachfolger werden dank cleverer Software-Optimierungen zunehmend zu echten „AI PCs“ – Computern, die große Sprachmodelle lokal und effizient ausführen können.
ExecuTorch MLX: Der Turbo für kleine Modelle
Besonders beeindruckend sind die Fortschritte beim ExecuTorch MLX Delegate, einer Schnittstelle, die Apples hauseigene MLX-Bibliothek mit dem PyTorch-Framework verbindet. Auf einem MacBook Pro mit M1 Max (32 GPU-Kerne, 64 GB Arbeitsspeicher) erreichte das kleine Modell Qwen3-0.6B eine Verarbeitungsgeschwindigkeit von 134,8 Token pro Sekunde – mehr als dreimal so schnell wie die Standard-PyTorch-Implementierung mit 41,8 Token pro Sekunde.
Noch deutlicher wird der Vorsprung bei der Kompression: Mit 4-Bit-Quantisierung (INT4) steigt der Durchsatz auf 188,9 Token pro Sekunde – das entspricht einer 4,52-fachen Beschleunigung gegenüber der Basisversion. Gleichzeitig schrumpft die Modellgröße um fast drei Viertel. Einziger Wermutstropfen: Die Kompression veränderte bei zwei von drei Testeingaben das Ergebnis.
Die enorme Leistungssteigerung der M-Chips zeigt, welches Potenzial in Ihrem Mac steckt, wenn die Einstellungen stimmen. Dieser kostenlose Ratgeber hilft Ihnen dabei, Ihren Apple-Computer von Beginn an optimal zu konfigurieren und keine Funktionen zu verschenken. 5 wichtige Einstellungen für Ihren Mac jetzt entdecken
PyTorch 2.13: FlexAttention macht lange Texte flott
Ein weiterer meilenstein kam am 8. Juli 2026 mit der Veröffentlichung von PyTorch 2.13. Die neue MPS FlexAttention-Funktion ist speziell für Apple Silicon optimiert und löst ein zentrales Problem: die rechenintensive Verarbeitung langer Textsequenzen.
Auf dem M1 Max bewältigt FlexAttention 32.768 Token mit einem lokalen Fenster von 256 Token in nur 75,27 Millisekunden. Die Vorgänger-Technologie brauchte dafür noch 589,05 Millisekunden – eine Steigerung um das 7,8-Fache. Solche Optimierungen sind entscheidend, denn sie bringen die Effizienz von Consumer-Hardware näher an spezialisierte Rechenzentren heran. So erreicht der Apple M4 eine Effizienz von 6,6 TOPS/Watt (Billionen Operationen pro Sekunde pro Watt), während High-End-Server-GPUs oft nur auf 0,13 TOPS/Watt kommen.
Automatisch optimierte Kernel: KI schreibt besseren Code als Menschen
Nicht nur manuelle Optimierungen treiben die Entwicklung voran. Googles System OpenEvolve entdeckte kürzlich automatisch optimierte Metal-Kernel für Apple Silicon, die von Menschen geschriebenen Code im Schnitt um 21 Prozent übertrafen. Bei speziellen Aufmerksamkeitsaufgaben (Grouped Query Attention) erreichten die automatisch generierten Kernel sogar eine Verdopplung der Geschwindigkeit – durch clevere Optimierung von Speicherlayouts und SIMD-Operationen.
Auch die Portierung bestehender Modelle macht Fortschritte. Der mlx-dspark-Port von DeepSeek DSpark, seit dem 27. Juni 2026 als Open Source verfügbar, läuft erfolgreich auf Apple Silicon. Auf dem neueren M4 Pro beschleunigte er das Modell Gemma-4 12B von 18,4 auf rund 30 Token pro Sekunde.
Wer die volle Performance seines Macs im Arbeitsalltag nutzen möchte, sollte nicht nur auf die Hardware setzen, sondern auch die Bedienung optimieren. Mit den richtigen Kurzbefehlen arbeiten Sie am Apple-Gerät deutlich effizienter und sparen jeden Tag wertvolle Zeit. Die 19 besten Mac-Tastenkombinationen kostenlos herunterladen
Alibaba zeigt Qwen3.8 Max: Gigantisches Modell für die Cloud
Während die lokale KI an Fahrt gewinnt, liefern sich die Entwickler großer Modelle weiterhin ein Wettrennen um die meisten Parameter. Am 19. Juli 2026 präsentierte Alibaba auf der World AI Conference in Shanghai sein Qwen3.8 Max – ein Modell mit 2,4 Billionen Parametern in einer sparsamen Mixture-of-Experts-Architektur.
Alibaba sieht das Modell hinter Anthropics Fable 5 auf Platz zwei der größten KI-Modelle. Offizielle Benchmarks oder die Anzahl der aktiven Parameter blieben jedoch ungenannt. Die Vorstellung erfolgte nur zwei Tage nach dem Launch von Moonshot AIs Kimi K3 mit 2,8 Billionen Parametern.
Erste Tests zeigen ein gemischtes Bild: In einer Aufgabe mit 269 Dateien erreichte Qwen3.8 Max 80 von 100 Punkten, knapp hinter Kimi K3 mit 83 Punkten. Lokal lauffähig sind solche Giganten derzeit nur auf absoluten High-End-Maschinen wie dem M3 Ultra Mac Studio mit 512 GB Arbeitsspeicher. Für Normalnutzer bleibt der Zugang vorerst auf die Cloud-Varianten beschränkt.
